私たちAnthropicは、AI研究とAI製品の最前線に安全性を置くために設立されました。 私たちの研究は私たちの商業製品に影響を与えており、私たちのモデルは今日利用可能な中で最も信頼できる安全で乱用に対して耐性があるものです。 当社のAPIはまだクローズドベータの段階ですが、ユーザーのフィードバックに基づいて安全フィルターを改善するために取り組んでいます。商業顧客は、安全機能が失敗したときに私たちを説明責任に引き合いに出すことが期待されます。
しかし、安全性は共有責任であると信じています。 私たちの機能は完璧なものではなく、コミットされたパートナーは第2の防衛線です。 ユースケースによって異なりますが、追加の安全推奨事項は次のとおりです。
Claudeをコンテンツモデレーションフィルターとして使用し、違反を特定および防止する
外部向け製品の場合、ユーザーにAIシステムと対話していることを開示する
機密情報や意思決定の場合、消費者への普及前にコンテンツを適格な専門家がレビューする
usersafety@anthropic.comにフィードバックや具体的な提案を送信することをお勧めします。 既存の商業パートナーの場合、Discordサーバーに参加し、他の開発者とアイデアを交換することをお勧めします。