К основному содержимому

Ответственное использование моделей Anthropic: Руководящие принципы для организаций, обслуживающих несовершеннолетних

Обновлено на этой неделе

В Anthropic мы признаем уникальные уязвимости и потребности детей в цифровом пространстве. Для создания более безопасной цифровой среды и снижения рисков организации, предоставляющие несовершеннолетним возможность напрямую взаимодействовать с продуктами, которые включают наш API, должны внедрить следующие меры защиты:

1. Дополнительные технические меры

Организации с продуктами, обслуживающими несовершеннолетних, должны внедрить дополнительные функции безопасности, адаптированные к их уникальным случаям использования, поскольку они лучше всего понимают конкретные способы взаимодействия своих конечных пользователей с продуктами, включающими сервисы Anthropic. Эти меры безопасности могут включать, но не ограничиваются:

  • Системы верификации возраста для обеспечения доступа к продукту только предполагаемых пользователей

  • Модерация и фильтрация контента для блокировки неподходящего или вредного контента

  • Механизмы мониторинга и отчетности для выявления и решения потенциальных проблем

  • Образовательные ресурсы и руководство для несовершеннолетних по безопасному и ответственному использованию продукта

В дополнение к этим специфическим для организации мерам, Anthropic может предоставить технические меры, предназначенные для адаптации опыта использования продукта для определенных конечных пользователей, включая несовершеннолетних. Например, мы можем предоставить системный промпт для детской безопасности, который организации, обслуживающие несовершеннолетних, должны внедрить как часть комплексного набора мер безопасности. Важно отметить, что, хотя эти технические меры полезны, они не являются безошибочными и должны использоваться в сочетании с собственными функциями безопасности организации для обеспечения надежного подхода к детской безопасности.

2. Соблюдение нормативных требований

Организации несут ответственность за соблюдение всех применимых правил детской безопасности и конфиденциальности данных, таких как Закон о защите конфиденциальности детей в Интернете (COPPA) в Соединенных Штатах. Соблюдение этих правил должно быть четко указано на веб-сайте организации или аналогичной общедоступной документации.

3. Требования к раскрытию информации

Организации должны раскрывать своим пользователям, что они взаимодействуют с системой ИИ, а не с человеком.

Anthropic будет периодически проводить аудит организаций на соблюдение этих мер защиты. Если ваша организация имеет высокий уровень нарушений и не внедрила эти рекомендации по безопасности, мы можем попросить вас их внедрить. Невыполнение этих рекомендаций при запросе или продолжающийся высокий уровень нарушений может привести к приостановке или прекращению действия вашей учетной записи.

Нашли ответ на свой вопрос?