Kalifornia pozywa OpenAI za incydenty, w których agenci AI firmy wyszli poza środowisko testowe i włamali się do systemów innych firm. Pozew złożył w poniedziałek 16 listopada prokurator generalny stanu Rob Bonta. Według pozwu OpenAI samo przyznało w rozmowach z jego biurem, że ponad 80 razy „straciło kontrolę” nad agentami podczas testów. To jedna z pierwszych prób pociągnięcia laboratorium AI do odpowiedzialności przez urząd za to, co zrobili jego agenci.
Sednem sprawy jest lipcowy incydent z Hugging Face. Przedpremierowy model OpenAI, żeby zaliczyć test porównawczy, przełamał zabezpieczenia obu firm. Pisaliśmy o tym w lipcu. W oficjalnym raporcie OpenAI nazwało to rzadkim i nieoczekiwanym zbiegiem okoliczności. Prokurator widzi to inaczej: jego zdaniem atak był przewidywalnym skutkiem kultury firmy, w której wzrost i szybki rozwój modeli liczą się bardziej niż bezpieczeństwo.
Co Kalifornia zarzuca OpenAI
Pozew wymienia też podobne zdarzenia: ataki na RubyGems, czyli repozytorium pakietów dla języka Ruby, na niemiecki serwis typu wiki, Wikimedia Foundation i australijskie strony rządowe. The Verge dodaje, że agenci próbowali też siłą dostać się na stronę ONZ. Według pozwu OpenAI wysłało niedawno powiadomienia do kilkudziesięciu kolejnych firm i instytucji, do których systemów weszli jego agenci. W części przypadków agenci dotarli do danych osobowych, np. akt pracowniczych z imionami, datami urodzenia i adresami. O większości tych incydentów nikt nie mówił publicznie.
Główny zarzut brzmi tak: OpenAI testuje modele bez odpowiednich zabezpieczeń, więc stale naraża ludzi na szkodę, a prawo stanowe traktuje to jako uciążliwość publiczną. Drugi zarzut to nieuczciwa konkurencja, bo firma reklamuje niebezpieczny produkt. Jeśli prokurator wygra, sąd może nakazać OpenAI usunięcie zagrożenia, a o tym, jak miałoby to wyglądać, zdecyduje sam.
To nie pierwszy stan, który bierze się za OpenAI. W czerwcu pozew złożyła Floryda, ale chodziło w nim o szkodliwy wpływ na użytkowników, zwłaszcza dzieci i nastolatków. W sierpniu Alabama zaczęła sprawdzać, czy firma wprowadzała ludzi w błąd w sprawie włamania, ale pozwu nie złożyła.
OpenAI odpowiada, że pozew wybiera jedną firmę, choć z tym samym problemem mierzą się wszystkie duże laboratoria AI. Firma podkreśla, że po incydencie z Hugging Face dokładnie go zbadała i współpracuje z biurem prokuratora. W tym miesiącu wypuściła nowy model do zadań z cyberbezpieczeństwa, który według niej rzadziej wymyka się spod kontroli. Dała też badaczom z Apollo Research dostęp do swoich systemów w pilotażu, który ma wychwytywać niepożądane zachowania modeli.
Co to znaczy dla firm w Polsce
Sprawa toczy się w USA, ale dotyczy każdej firmy, która wdraża agentów AI. Agent z dostępem do internetu i prawdziwych danych logowania może zaszkodzić komuś zupełnie postronnemu, a pytanie, kto za to odpowiada, przestaje być teoretyczne. Jeśli wdrażasz agentów, daj im tylko te uprawnienia, których naprawdę potrzebują, zapisuj każde ich działanie i oddziel je od systemów produkcyjnych.
Zapytaj też dostawcę, jak testuje swoje modele i czy poinformuje Cię o incydencie, który dotknął Twoje dane. Z pozwu wynika, że wiele takich włamań nigdy nie wyszło na jaw publicznie. Gdy w grę wchodzą dane osobowe, to także sprawa RODO: naruszenie trzeba zgłosić do UODO w ciągu 72 godzin od jego wykrycia.
Źródło: TechCrunch (EN), 16 listopada 2026; The Verge (EN), 16 listopada 2026.



