Acht US-Bundesstaaten verklagen OpenAI wegen ChatGPT-Risiken für Minderjährige

Acht US-Bundesstaaten haben am Freitag (10/16) Klagen gegen OpenAI eingereicht und das Unternehmen beschuldigt, Verbraucher über die Sicherheit von ChatGPT getäuscht zu haben. Arkansas, Arizona, Idaho, Iowa, Kansas, Montana, Nebraska und West Virginia reichten die Fälle am selben Tag ein. Kern der Vorwürfe ist, dass das Unternehmen Kinder und Jugendliche bei der Nutzung des Chatbots nicht ausreichend geschützt habe. Laut Berichten von The Neuron und Brave New Coin fordern die Klagen auch die Löschung illegal gesammelter Daten. OpenAI hingegen erklärt, Altersvorkehrungen aufrechtzuerhalten und diese Mechanismen kontinuierlich zu verbessern.

Die Klagen argumentieren, OpenAI habe ChatGPT der Öffentlichkeit als sicheres Produkt präsentiert und Risiken für minderjährige Nutzer heruntergespielt. Für die Bundesstaaten stellt dieses Verhalten eine Täuschung der Verbraucher dar. Der zweite Schwerpunkt der Verfahren liegt auf dem Jugendschutz: Die Klagen behaupten, bestehende Barrieren des Dienstes seien für diese Zielgruppe unzureichend. Zu den Forderungen gehört die Löschung von Daten, die angeblich außerhalb der Regeln gesammelt wurden, wodurch der Fall auch zu einer Datenschutzdebatte wird. Details finden sich in Berichten von The Neuron und Brave New Coin, die der Klage folgten.

OpenAI reagierte auf die Vorwürfe mit der Bestätigung, dass ChatGPT Altersvorkehrungen enthält. Das Unternehmen gibt an, diese Mechanismen ständig zu verbessern. Die Nutzung des Chatbots durch Jugendliche ist Routine geworden und setzt KI-Unternehmen unter wachsende Aufsicht. Für die klagenden Bundesstaaten reichen bestehende Schutzmaßnahmen nicht aus, um Schäden für junge Nutzer zu verhindern. Ein Zeitplan für eine erste Entscheidung in den Fällen liegt noch nicht vor.

Die Aktion fällt durch ihr Ausmaß auf: Acht Bundesstaaten verklagen gleichzeitig eines der sichtbarsten Unternehmen im KI-Sektor. Staatlich geführte Verfahren dienen in den Vereinigten Staaten als regulatorischer Druck, besonders bei Themen, bei denen Bundesrecht langsam vorankommt. Hier bringen die Forderungen nach Datenlöschung die Debatte in den Bereich des Minderjährigenschutzes und der Chatbot-Sicherheit. Falls gewährt, könnten diese Forderungen OpenAI zwingen, die Sammlung und Speicherung von Informationen junger Nutzer zu überarbeiten. Das Unternehmen muss seine rechtliche Verteidigung mit den technischen Anpassungen abwägen, die es bereits an Altersfiltern vornimmt.

Nächste Schritte umfassen die formellen Antworten von OpenAI auf die Klagen und mögliche Entscheidungen über die Zulässigkeit der Verfahren. Während die Fälle laufen, wird die Debatte über Mindestalter, Verifizierung und Nutzungsgrenzen für Chatbots voraussichtlich außerhalb der Gerichte intensiver werden. Für Familien und Pädagogen unterstreicht der Vorfall die Notwendigkeit, die Nutzung generativer KI-Tools durch Kinder und Jugendliche genau zu überwachen. Mit acht gleichzeitig offenen Rechtsfronten muss OpenAI die versprochene Sicherheit in der Praxis verteidigen.