Nous avons fondé Anthropic pour placer la sécurité à la pointe de la recherche en IA et des produits d'IA. Nos recherches éclairent nos produits commerciaux, et nos modèles sont parmi les plus fiables et résistants aux abus disponibles aujourd'hui. Bien que notre API soit encore en version bêta fermée, nous travaillons à améliorer nos filtres de sécurité basés sur les retours des utilisateurs - et nous nous attendons à ce que nos clients commerciaux nous tiennent responsables lorsque nos fonctionnalités de sécurité échouent.
Mais nous croyons que la sécurité est une responsabilité partagée. Nos fonctionnalités ne sont pas infaillibles, et des partenaires engagés constituent une seconde ligne de défense. Selon votre cas d'usage, les étapes de modération auront un aspect différent, mais voici quelques recommandations de sécurité supplémentaires :
Utilisez Claude comme filtre de modération de contenu pour identifier et prévenir les violations.
Pour les produits destinés au public, informez vos utilisateurs qu'ils interagissent avec un système d'IA.
Pour les informations sensibles et la prise de décision, faites réviser le contenu par un professionnel qualifié avant sa diffusion aux consommateurs.
Nous vous encourageons à nous envoyer vos commentaires ou propositions spécifiques à usersafety@anthropic.com. Pour les partenaires commerciaux existants, nous recommandons de rejoindre notre serveur Discord et d'échanger des idées avec d'autres développeurs également.