En Anthropic, reconocemos las vulnerabilidades y necesidades únicas de los niños en los espacios digitales. Para crear un entorno digital más seguro y mitigar los riesgos, las organizaciones que proporcionen a menores la capacidad de interactuar directamente con productos que incorporen nuestra(s) API(s) deben implementar las siguientes salvaguardas:
1. Medidas Técnicas Adicionales
Las organizaciones con productos que sirven a menores deben implementar características de seguridad adicionales adaptadas a sus casos de uso únicos, ya que están mejor situadas para entender las formas específicas en que sus usuarios finales pueden interactuar con productos que incorporan los servicios de Anthropic. Estas medidas de seguridad pueden incluir, pero no se limitan a:
Sistemas de verificación de edad para asegurar que solo los usuarios previstos puedan acceder al producto
Moderación y filtrado de contenido para bloquear contenido inapropiado o dañino
Mecanismos de monitoreo y reporte para identificar y abordar problemas potenciales
Recursos educativos y orientación para menores sobre el uso seguro y responsable del producto
Además de estas medidas específicas de la organización, Anthropic puede poner a disposición medidas técnicas destinadas a adaptar las experiencias del producto para ciertos usuarios finales, incluyendo menores. Por ejemplo, podemos proporcionar un prompt del sistema de seguridad infantil, que las organizaciones que sirven a menores deben implementar como parte de un conjunto integral de medidas de seguridad. Es importante señalar que, aunque útiles, estas medidas técnicas no son infalibles y deben usarse en conjunto con las características de seguridad propias de la organización para asegurar un enfoque robusto hacia la seguridad infantil.
2. Cumplimiento Regulatorio
Es responsabilidad de las organizaciones cumplir con todas las regulaciones aplicables de seguridad infantil y privacidad de datos, como la Ley de Protección de la Privacidad en Línea de los Niños (COPPA) en los Estados Unidos. El cumplimiento de estas regulaciones debe estar claramente declarado en el sitio web de la organización o documentación similar de cara al público.
3. Requisitos de Divulgación
Las organizaciones deben divulgar a sus usuarios que están interactuando con un sistema de IA en lugar de un humano.
Anthropic auditará periódicamente a las organizaciones para verificar el cumplimiento de estas salvaguardas. Si su organización tiene una alta tasa de violaciones y no ha implementado estas recomendaciones de seguridad, podemos pedirle que las implemente. El no implementar estas recomendaciones cuando se solicite, o una tasa de violaciones alta continua, puede llevar a la suspensión o terminación de su cuenta.