Bei Anthropic erkennen wir die besonderen Schwachstellen und Bedürfnisse von Kindern in digitalen Räumen an. Um eine sicherere digitale Umgebung zu schaffen und Risiken zu mindern, sollten Organisationen, die Minderjährigen die Möglichkeit bieten, direkt mit Produkten zu interagieren, die unsere API(s) integrieren, die folgenden Schutzmaßnahmen implementieren:
1. Zusätzliche technische Maßnahmen
Organisationen mit Produkten, die Minderjährige bedienen, sollten zusätzliche Sicherheitsfeatures implementieren, die auf ihre spezifischen Anwendungsfälle zugeschnitten sind, da sie am besten positioniert sind, um die spezifischen Arten zu verstehen, wie ihre Endnutzer mit Produkten interagieren können, die Anthropics Dienste integrieren. Diese Sicherheitsmaßnahmen können unter anderem folgende umfassen:
Altersverifikationssysteme, um sicherzustellen, dass nur beabsichtigte Nutzer auf das Produkt zugreifen können
Inhaltsmoderation und -filterung, um unangemessene oder schädliche Inhalte zu blockieren
Überwachungs- und Meldemechanismen zur Identifizierung und Behandlung potenzieller Probleme
Bildungsressourcen und Anleitungen für Minderjährige zur sicheren und verantwortlichen Nutzung des Produkts
Zusätzlich zu diesen organisationsspezifischen Maßnahmen kann Anthropic technische Maßnahmen zur Verfügung stellen, die darauf abzielen, Produkterfahrungen für bestimmte Endnutzer, einschließlich Minderjähriger, anzupassen. Zum Beispiel können wir einen Kindersicherheits-System-Prompt bereitstellen, den Organisationen, die Minderjährige bedienen, als Teil eines umfassenden Pakets von Sicherheitsmaßnahmen implementieren sollten. Es ist wichtig zu beachten, dass diese technischen Maßnahmen, obwohl hilfreich, nicht unfehlbar sind und in Verbindung mit den eigenen Sicherheitsfeatures der Organisation verwendet werden sollten, um einen robusten Ansatz für Kindersicherheit zu gewährleisten.
2. Regulatorische Compliance
Es liegt in der Verantwortung der Organisationen, alle anwendbaren Kindersicherheits- und Datenschutzbestimmungen einzuhalten, wie etwa den Children's Online Privacy Protection Act (COPPA) in den Vereinigten Staaten. Die Einhaltung dieser Bestimmungen sollte klar auf der Website der Organisation oder ähnlicher öffentlich zugänglicher Dokumentation angegeben werden.
3. Offenlegungsanforderungen
Organisationen müssen ihren Nutzern offenlegen, dass sie mit einem KI-System und nicht mit einem Menschen interagieren.
Anthropic wird Organisationen regelmäßig auf die Einhaltung dieser Schutzmaßnahmen prüfen. Wenn Ihre Organisation eine hohe Verletzungsrate aufweist und diese Sicherheitsempfehlungen nicht implementiert hat, können wir Sie bitten, diese zu implementieren. Das Versäumnis, diese Empfehlungen auf Anfrage zu implementieren, oder eine anhaltend hohe Verletzungsrate kann zur Aussetzung oder Kündigung Ihres Kontos führen.