우리는 AI 연구와 AI 제품의 안전을 최우선으로 두기 위해 Anthropic을 설립했습니다. 우리의 연구는 우리의 상업 제품에 영향을 미치며, 우리의 모델은 오늘날 가장 안정적이고 남용에 강한 모델들 중 일부입니다. 우리의 API는 아직 폐쇄된 베타 버전이지만, 우리는 사용자 의견에 따라 안전 필터를 개선하기 위해 노력하고 있으며, 우리의 상업 고객들이 우리의 안전 기능이 실패할 때 우리를 문책할 것이라고 기대합니다.
하지만 우리는 안전이 공동의 책임이라고 믿습니다. 우리의 기능은 완벽하게 실패하지 않으며, 전념하는 파트너들은 두 번째 방어선입니다. 사용 사례에 따라 조정 단계는 다르게 보일 수 있지만, 추가적인 안전 권장 사항은 다음과 같습니다:
Claude를 콘텐츠 관리 필터로 사용하여 위반 사항을 식별하고 방지하십시오.
외부에 노출되는 제품의 경우 사용자에게 AI 시스템과 상호 작용하고 있다고 공개하십시오.
민감한 정보와 의사 결정의 경우, 소비자에게 배포하기 전에 자격을 갖춘 전문가가 콘텐츠를 검토하도록 하십시오.
usersafety@anthropic.com으로 우리에게 피드백이나 구체적인 제안을 보내주십시오. 기존 상업 파트너의 경우 Discord 서버에 가입하고 동료 개발자들과 아이디어를 교환하는 것이 좋습니다.