(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
ChatGPT führt ein Age-Prediction-System ein, mit dem es versucht, auf das Alter seiner Nutzer zu schließen und so für Anwender unter 18 besondere Jugendschutzmaßnahmen zu etablieren.
Wer schon bei der Anmeldung bei ChatGPT angegeben hat, jünger als 18 Jahre zu sein, für den gelten automatisch besondere Maßnahmen, die vor dem Kontakt mit für Teenager schädlichen Inhalten schützen sollen. Darüber hinaus versucht OpenAI aber auch, aus Stil und Inhalt der Kommunikation mit dem Sprachmodell auf das Alter zu schließen. Es bezieht dabei eine Reihe weiterer Daten ein: Wie lange existiert der Account schon? Oder: Zu welchen Tageszeiten ist er meistens aktiv?
Anwender, die fälschlicherweise in die Gruppe der Unter-18jährigen sortiert wurden, müssen sich über den Identitätsverifizierungsdienst Persona ausweisen, um von den Beschränkungen wieder ausgenommen zu werden.
Die Beschränkungen betreffen im Einzelnen: Unterdrückung von brutalen oder gewalttätigen Inhalten, keine Anzeige viraler Challenges, die zu riskanten Verhalten führen können, keine sexuellen, romantischen oder gewalttätigen Rollenspiele, Untersuchung auf Anzeichen von Selbstverletzung, keine Inhalte, die extreme Schönheitsideale propagieren, keine ungesunden Diäten, kein Body Shaming.
OpenAI beteuert, das System werde von Experten für die kindliche Entwicklung begleitet und berücksichtige die Unterschiede in Risikowahrnehmung, Impulskontrolle, den Einfluss durch Gleichaltrige und Emotionsregulation bei dieser jungen Zielgruppe.
