Kami mendirikan Anthropic untuk menempatkan keamanan di garis depan penelitian AI dan produk AI. Penelitian kami menginformasikan produk komersial kami, dan model kami adalah beberapa yang paling dapat diandalkan aman dan resisten terhadap penyalahgunaan yang tersedia saat ini. Sementara API kami masih dalam beta tertutup, kami bekerja untuk meningkatkan filter keamanan kami berdasarkan umpan balik pengguna - dan kami berharap pelanggan komersial kami akan mempertahankan kami ketika fitur keamanan kami gagal.
Tapi kami percaya keamanan adalah tanggung jawab bersama. Fitur kami tidak aman, dan mitra yang berkomitmen adalah garis pertahanan kedua. Tergantung pada kasus penggunaan Anda, langkah-langkah moderasi akan terlihat berbeda, tetapi berikut ini beberapa rekomendasi keamanan tambahan:
Gunakan Claude sebagai filter moderasi konten untuk mengidentifikasi dan mencegah pelanggaran.
Untuk produk yang menghadap ke eksternal, beritahu pengguna Anda bahwa mereka berinteraksi dengan sistem AI.
Untuk informasi sensitif dan pengambilan keputusan, minta profesional yang memenuhi syarat untuk meninjau konten sebelum disebarluaskan ke konsumen.
Kami mendorong Anda untuk mengirimkan umpan balik atau proposal spesifik ke usersafety@anthropic.com. Bagi mitra komersial yang ada, kami sarankan bergabung dengan server Discord kami dan bertukar ide dengan pengembang lain juga.