Osiem stanów USA pozywa OpenAI za ryzyka ChatGPT dla nieletnich

Osiem stanów USA złożyło w piątek (16.10) pozwy przeciwko OpenAI, oskarżając firmę o wprowadzanie konsumentów w błąd co do bezpieczeństwa ChatGPT. Arkansas, Arizona, Idaho, Iowa, Kansas, Montana, Nebraska i Wirginia Zachodnia złożyły sprawy tego samego dnia. Sednem oskarżeń jest to, że firma nie chroniła dzieci i nastolatków korzystających z chatbota. Według doniesień The Neuron i Brave New Coin pozwy zawierają też żądania usunięcia nielegalnie zebranych danych. Z drugiej strony OpenAI twierdzi, że utrzymuje zabezpieczenia wiekowe i stale je ulepsza.

Pozwy argumentują, że OpenAI przedstawiał ChatGPT opinii publicznej jako bezpieczny produkt, bagatelizując ryzyka dla nieletnich użytkowników. Dla stanów takie postępowanie stanowi zwodnicze praktyki konsumenckie. Drugim punktem sporu jest ochrona dzieci: pozwy twierdzą, że istniejące bariery usługi są niewystarczające dla tej grupy. Wśród żądań jest usunięcie danych rzekomo zebranych z naruszeniem zasad, co przenosi sprawę również na grunt prywatności. Szczegóły podają The Neuron i Brave New Coin, które śledziły działania prawne.

OpenAI odpowiedział na zarzuty, potwierdzając, że ChatGPT zawiera zabezpieczenia wiekowe. Firma oświadcza, że mechanizmy te są stale ulepszane. Korzystanie z chatbota przez nastolatków stało się powszechne, co zwiększa kontrolę nad firmami AI. Dla stanów wnoszących pozwy istniejące ochrony nie wystarczą, by zapobiec krzywdzie młodych użytkowników. Nie ma jeszcze terminu pierwszego orzeczenia w sprawach.

Skala działania zwraca uwagę: osiem stanów pozywa jednocześnie jedną z najbardziej widocznych firm sektora AI. Pozwy stanowe działają w USA jako presja regulacyjna, zwłaszcza w kwestiach, w których prawo federalne porusza się powoli. Tu żądania usunięcia danych przenoszą debatę na prywatność nieletnich i bezpieczeństwo chatbota. Jeśli zostaną uwzględnione, mogą zmusić OpenAI do zmiany sposobu zbierania i przechowywania informacji o młodych użytkownikach. Firma będzie musiała pogodzić obronę prawną z technicznymi poprawkami, które już wprowadza w filtrach wiekowych.

Następne kroki obejmują formalne odpowiedzi OpenAI na pozwy oraz ewentualne orzeczenia o dopuszczalności spraw. W trakcie postępowań debata nad minimalnym wiekiem, weryfikacją i limitami użytkowania chatbotów prawdopodobnie nasili się poza sądami. Dla rodzin i nauczycieli epizod ten podkreśla potrzebę ścisłego monitorowania, jak dzieci i nastolatki korzystają z narzędzi generatywnej AI. Przy ośmiu otwartych frontach prawnych jednocześnie OpenAI będzie musiało w praktyce bronić bezpieczeństwa, które obiecuje w swoich oświadczeniach.