En Anthropic, reconocemos las vulnerabilidades y necesidades únicas de los niños en los espacios digitales. Para crear un entorno digital más seguro y mitigar los riesgos, las organizaciones que proporcionan a los menores la capacidad de interactuar directamente con productos que incorporan nuestra(s) API(s) deben implementar las siguientes salvaguardias:
1. Medidas Técnicas Adicionales
Las organizaciones con productos que sirven a menores deben implementar características de seguridad adicionales adaptadas a sus casos de uso únicos, ya que están mejor situadas para entender las formas específicas en que sus usuarios finales pueden interactuar con productos que incorporan los servicios de Anthropic. Estas medidas de seguridad pueden incluir, pero no se limitan a:
Sistemas de verificación de edad para asegurar que solo los usuarios previstos puedan acceder al producto
Moderación y filtrado de contenido para bloquear contenido inapropiado o dañino
Mecanismos de monitoreo y reporte para identificar y abordar problemas potenciales
Recursos educativos y orientación para menores sobre el uso seguro y responsable del producto
Además de estas medidas específicas de la organización, Anthropic puede poner a disposición medidas técnicas destinadas a adaptar las experiencias del producto para ciertos usuarios finales, incluidos los menores. Por ejemplo, podemos proporcionar un mensaje de sistema de seguridad infantil, que las organizaciones que atienden a menores deben implementar como parte de un conjunto integral de medidas de seguridad. Es importante tener en cuenta que, aunque útiles, estas medidas técnicas no son infalibles y deben utilizarse en conjunto con las propias características de seguridad de la organización para garantizar un enfoque robusto de la seguridad infantil.
2. Cumplimiento Normativo
Es responsabilidad de las organizaciones cumplir con todas las regulaciones aplicables de seguridad infantil y privacidad de datos, como la Ley de Protección de la Privacidad en Línea de los Niños (COPPA) en los Estados Unidos. El cumplimiento de estas regulaciones debe estar claramente indicado en el sitio web de la organización o en documentación similar de cara al público.
3. Requisitos de Divulgación
Las organizaciones deben revelar a sus usuarios que están interactuando con un sistema de IA en lugar de un ser humano.
Anthropic auditará periódicamente a las organizaciones para verificar el cumplimiento de estas salvaguardias. Si su organización tiene una alta tasa de violaciones y no ha implementado estas recomendaciones de seguridad, podemos pedirle que las implemente. El incumplimiento de estas recomendaciones cuando se solicite, o una tasa de violación continuamente alta, puede llevar a la suspensión o terminación de su cuenta.