Anthropic pokazał, jak w praktyce może działać samodoskonaląca się AI. Badacz firmy, Chen Yueh-Han, zaprezentował system Automated Alignment Researcher (AAR), który samodzielnie poprawia zachowanie modeli językowych, nie obniżając ich ogólnej sprawności. To jeden z pierwszych tak konkretnych wglądów w to, że model może usprawniać sam siebie w powtarzalny, mierzalny sposób.
AAR odtwarza pracę badacza: przeszukuje literaturę, proponuje metody i trenuje modele w kolejnych iteracjach. Każdy cykl trwa około 30 minut, a poziom trudności testów rośnie stopniowo. Skuteczne podejścia system zachowuje, nieudane odrzuca, dzięki czemu może działać szybko i na dużą skalę.
Co pokazały wyniki samodoskonalącej się AI
W eksperymencie AAR poprawił wyniki na wszystkich dziesięciu testach niepożądanych zachowań, nie pogarszając ogólnej jakości modelu. Według Anthropic najlepsza metoda znaleziona przez system w ciągu sześciu godzin przewyższa średnio propozycje doświadczonych badaczy. Co ciekawe, ręczne wskazywanie kierunku badań nie dawało lepszych rezultatów. Znaczenie ma też koszt: około 4 dolary za godzinę pracy AAR wobec około 150 dolarów za godzinę pracy człowieka.
Badacze wyznaczają jednak granicę. System działa tylko wtedy, gdy testy trafnie opisują faktyczny cel dostrajania. Ktoś musi je zbudować, utrzymać i rozszerzać, a to wymaga stałej, niemałej pracy. „Automatyczne dostrajanie modeli pod kątem zgodności może stać się praktyczne w niedługim czasie” — piszą autorzy.
Dla polskich firm to sygnał, w którą stronę idzie automatyzacja samej pracy nad modelami. Jeśli AI potrafi doskonalić własne zachowanie, głównym punktem kontroli przestaje być pojedynczy model, a staje się nim zestaw testów i kryteriów, które definiują pożądane działanie. To zadanie dla ludzi: precyzyjnie opisać, co model ma robić i czego robić mu nie wolno, oraz utrzymać nad tym nadzór. Bez tego automatyzacja optymalizuje pod źle postawiony cel. Dlatego już teraz warto budować kompetencje w ocenie modeli i projektowaniu benchmarków, bo to one zdecydują o jakości wdrożeń.
Źródło: TechCrunch (EN), 28 sierpnia 2026.
