OpenAI wprowadziło w nowym modelu Astra technikę rozumowania, która utrudnia monitorowalność AI, czyli możliwość sprawdzenia, jak model dochodzi do wniosków. Metoda nazywana „recurrent depth", a przez krytyków „opaque recurrence", każe modelowi przetwarzać zapytanie w pętlach obliczeń, zamiast rozpisywać kolejne kroki rozumowania. Efekt uboczny to mniej czytelnych śladów myślenia, które badacze wykorzystują dziś do nadzoru nad zachowaniem modeli.
Dotychczasowe modele rozumujące pokazują tok myślenia jako łańcuch kroków (chain-of-thought), który człowiek może odczytać i skontrolować. Rekurencyjna głębokość działa inaczej: ten sam problem przechodzi wielokrotnie przez tę samą pętlę, a odpowiedź powstaje w „przestrzeni ukrytej", trudnej do zinterpretowania. Dla badaczy bezpieczeństwa to problem, bo widoczny łańcuch myśli jest jednym z niewielu narzędzi pozwalających zajrzeć do wnętrza modelu.
Dlaczego eksperci biją na alarm
Buck Shlegeris, szef Redwood Research, ostrzega, że dalsze skalowanie tej metody może „całkowicie zniszczyć" możliwość monitorowania toku rozumowania. Zvi Mowshowitz mówi o ryzyku „wyścigu na dno" między laboratoriami, jeśli kolejne firmy pójdą tą samą drogą. Ryan Greenblatt z Redwood dodaje, że nieprzejrzyste rozumowanie może rosnąć szybciej niż klasyczne i z czasem przenieść całą pracę modelu do przestrzeni ukrytej, poza wzrok człowieka. OpenAI zapewnia, że w modelu Astra użycie tej techniki jest ograniczone, łańcuch myśli pozostaje w większości czytelny, a firma zapowiada rozbudowane systemy nadzoru.
Co to znaczy dla polskiego biznesu
Dla firm wdrażających AI liczy się audytowalność, czyli możliwość wykazania, dlaczego system podjął konkretną decyzję. Czytelny tok rozumowania ułatwia zgodność z RODO i AI Act, wychwytywanie błędów oraz realny nadzór człowieka nad agentem. Gdy model „myśli" w sposób nieprzejrzysty, trudniej udowodnić podstawę decyzji, wykryć uprzedzenia i odtworzyć, co poszło nie tak. Wybierając dostawcę, warto pytać nie tylko o wyniki benchmarków, lecz także o to, na ile proces decyzyjny modelu da się prześledzić, zapisać i skontrolować. To temat na styku technologii, prawa i ładu danych, a nie wyłącznie ciekawostka techniczna.
Źródło: TechCrunch (EN), 2 września 2026. Zapowiedź modelu: OpenAI — Path to Astra (EN).
