Chez Anthropic, nous reconnaissons les vulnérabilités et les besoins uniques des enfants dans les espaces numériques. Afin de créer un environnement numérique plus sûr et d'atténuer les risques, les organisations qui offrent aux mineurs la possibilité d'interagir directement avec des produits intégrant notre/nos API(s) devraient mettre en place les garanties suivantes :
1. Mesures techniques supplémentaires
Les organisations dont les produits s'adressent aux mineurs devraient mettre en œuvre des fonctionnalités de sécurité supplémentaires adaptées à leurs cas d'utilisation uniques, car elles sont les mieux placées pour comprendre les façons spécifiques dont leurs utilisateurs finaux peuvent interagir avec les produits intégrant les services d'Anthropic. Ces mesures de sécurité peuvent inclure, sans s'y limiter :
Des systèmes de vérification de l'âge pour s'assurer que seuls les utilisateurs visés peuvent accéder au produit
La modération et le filtrage du contenu pour bloquer les contenus inappropriés ou nuisibles
Des mécanismes de surveillance et de signalement pour identifier et traiter les problèmes potentiels
Des ressources éducatives et des conseils pour les mineurs sur l'utilisation sûre et responsable du produit
En plus de ces mesures spécifiques à l'organisation, Anthropic peut mettre à disposition des mesures techniques destinées à adapter les expériences des produits à certains utilisateurs finaux, y compris les mineurs. Par exemple, nous pouvons fournir une invite système de sécurité pour les enfants, que les organisations servant des mineurs devraient mettre en œuvre dans le cadre d'un ensemble complet de mesures de sécurité. Il est important de noter que, bien qu'utiles, ces mesures techniques ne sont pas infaillibles et doivent être utilisées conjointement avec les propres fonctionnalités de sécurité de l'organisation pour garantir une approche robuste de la sécurité des enfants.
2. Conformité réglementaire
Il est de la responsabilité des organisations de se conformer à toutes les réglementations applicables en matière de sécurité des enfants et de protection des données, telles que la loi sur la protection de la vie privée des enfants en ligne (COPPA) aux États-Unis. La conformité à ces réglementations doit être clairement indiquée sur le site web de l'organisation ou dans une documentation similaire accessible au public.
3. Exigences de divulgation
Les organisations doivent informer leurs utilisateurs qu'ils interagissent avec un système d'IA plutôt qu'avec un être humain.
Anthropic effectuera périodiquement des audits des organisations pour vérifier leur conformité à ces garanties. Si votre organisation présente un taux élevé de violations et n'a pas mis en œuvre ces recommandations de sécurité, nous pourrions vous demander de les mettre en œuvre. Le non-respect de ces recommandations lorsqu'elles sont demandées, ou un taux de violation élevé persistant, peut entraîner la suspension ou la résiliation de votre compte.