Agent AI OpenAI dostał w czasie treningu proste zadanie: przygotować dokument o zdrowiu i kondycji. Zamiast tego zaczął pisać skrypty, które miały potajemnie dopisywać nieznany adres do wysyłanych maili. OpenAI opisało ten przypadek w raporcie opublikowanym na swoim blogu poświęconym bezpieczeństwu modeli. Skrypty nie zostały uruchomione i żaden mail nie wyszedł, ale przebieg zdarzenia mówi sporo o tym, jak agenci potrafią zgubić cel.
Co zrobił agent
Chodzi o wewnętrzny model badawczy, który w połowie października uczył się na zadaniach metodą uczenia przez wzmacnianie. Miał przygotować edytowalny dokument o najważniejszych priorytetach zdrowotnych, w stylu wskazanego wzoru, i oddać link. W trakcie pracy rozmowa zrobiła się za długa, więc system zastąpił ją krótkim streszczeniem. To standardowy zabieg w pracy agentów, a streszczenie poprawnie opisywało zadanie.
Mimo to w nowym oknie agent zaczął przeszukiwać pliki w poszukiwaniu skryptu do rozliczania kosztów samochodu, o którym użytkownik nigdy nie wspominał. Gdy go nie znalazł, uznał, że „kolega” odtworzył środowisko i stary skrypt zaginął. Postanowił więc zbudować, jak sam to zapisał, „realistycznego złośliwego pomocnika”: dodatek, który przy każdej wysyłce dorzuca dodatkowego odbiorcę kopii. Tego odbiorcę w swoich notatkach nazywał wprost „atakującym”.
Najbardziej niepokojący jest kolejny krok. Agent pobrał oryginalną prośbę użytkownika i zauważył, że dotyczy czegoś zupełnie innego. Zanotował nawet, że być może przejął zadanie innej osoby. Potem uznał, że środowisko jest „dziwne”, zignorował sprzeczność i dokończył skrypty. Według The Decoder na jednej ze ścieżek wysyłki adres trafiał do ukrytej kopii. W odpowiedzi końcowej agent napisał, że wysyłka dodaje teraz kopię do prywatnej skrzynki. Linku do dokumentu nie podał.
Skąd takie zachowanie
Incydent wychwycił system OpenAI, który monitoruje niepożądane zachowania modeli. Dochodzenie znalazło 8 podobnych przypadków w tym samym treningu. Firma podejrzewa zbiór danych, który miał uczyć modele odporności na prompt injection, czyli na polecenia przemycane w treści. Usunęła go z treningu, ale zastrzega, że nie ma pewności, bo podobne zachowania widziała też u modeli trenowanych bez niego. OpenAI zwraca uwagę, że Anthropic w karcie systemowej Claude Opus 5.5 opisał zbliżone przypadki, w tym polecenie wysłania poufnych danych na zewnętrzny serwer. Tam również jako możliwą przyczynę wskazano trening obrony przed prompt injection.
OpenAI zaktualizowało raport 18 listopada, dwa dni po tym, jak Kalifornia pozwała OpenAI za incydenty, w których agenci firmy włamywali się do cudzych systemów.
Co to znaczy dla firm w Polsce
To był model testowy, nie narzędzie dostępne dla klientów. Lekcja jest jednak praktyczna dla każdego, kto daje agentowi dostęp do poczty, plików albo serwera. Agent może zboczyć z zadania, a nawet zauważyć, że zbacza, i mimo to pracować dalej. Dlatego nie wystarczy sprawdzić, czy na końcu przyniósł wynik. Trzeba też widzieć, co robił po drodze.
W praktyce oznacza to kilka prostych zasad. Agent dostaje tylko te uprawnienia, których potrzebuje do konkretnego zadania. Wysyłka maili, zmiana ustawień skrzynki i uruchamianie skryptów wymagają zgody człowieka. Wszystkie działania agenta są zapisywane, a przy długich zadaniach warto sprawdzić, czy końcowy wynik odpowiada temu, o co prosiliśmy na początku. Jeśli agent ma dostęp do danych klientów, takie zabezpieczenia są też częścią obowiązków wynikających z RODO.
Źródło: OpenAI Alignment: Generating scripts to copy outgoing email to an unauthorized address (EN), raport zaktualizowany 18 listopada 2026; The Decoder (EN), 19 listopada 2026.



