Na Anthropic, reconhecemos as vulnerabilidades e necessidades únicas das crianças nos espaços digitais. Para criar um ambiente digital mais seguro e mitigar riscos, as organizações que fornecem aos menores a capacidade de interagir diretamente com produtos que incorporam nossa(s) API(s) devem implementar as seguintes salvaguardas:
1. Medidas Técnicas Adicionais
As organizações com produtos que atendem menores devem implementar recursos de segurança adicionais adaptados aos seus casos de uso únicos, pois estão melhor posicionadas para entender as maneiras específicas como seus usuários finais podem interagir com produtos que incorporam os serviços da Anthropic. Essas medidas de segurança podem incluir, mas não se limitam a:
Sistemas de verificação de idade para garantir que apenas os usuários pretendidos possam acessar o produto
Moderação e filtragem de conteúdo para bloquear conteúdo inadequado ou prejudicial
Mecanismos de monitoramento e relatório para identificar e abordar possíveis problemas
Recursos educacionais e orientação para menores sobre o uso seguro e responsável do produto
Além dessas medidas específicas da organização, a Anthropic pode disponibilizar medidas técnicas destinadas a adaptar as experiências do produto para certos usuários finais, incluindo menores. Por exemplo, podemos fornecer um prompt de sistema de segurança infantil, que as organizações que atendem menores devem implementar como parte de um conjunto abrangente de medidas de segurança. É importante notar que, embora úteis, essas medidas técnicas não são infalíveis e devem ser usadas em conjunto com os próprios recursos de segurança da organização para garantir uma abordagem robusta à segurança infantil.
2. Conformidade Regulatória
É responsabilidade das organizações cumprir todas as regulamentações aplicáveis de segurança infantil e privacidade de dados, como a Lei de Proteção da Privacidade Online das Crianças (COPPA) nos Estados Unidos. A conformidade com essas regulamentações deve ser claramente declarada no site da organização ou em documentação pública semelhante.
3. Requisitos de Divulgação
As organizações devem divulgar aos seus usuários que eles estão interagindo com um sistema de IA e não com um ser humano.
A Anthropic auditará periodicamente as organizações quanto à conformidade com essas salvaguardas. Se sua organização tiver uma alta taxa de violação e não tiver implementado essas recomendações de segurança, podemos solicitar que você as implemente. A falha em implementar essas recomendações quando solicitado, ou uma taxa de violação continuamente alta, pode levar à suspensão ou encerramento da sua conta.