Szefowie dwóch największych laboratoriów sztucznej inteligencji zaapelowali o międzynarodowe standardy AI. Sam Altman (OpenAI) i Dario Amodei (Anthropic) wystąpili 23 września przed Radą Bezpieczeństwa ONZ i wezwali państwa do wspólnego mierzenia zdolności modeli oraz oceny ich bezpieczeństwa. Posiedzenie zwołane przez Francję było poświęcone ryzykom, jakie niesie coraz potężniejsza AI.
Obok szefów firm głos zabrali Clément Delangue, współzałożyciel Hugging Face, oraz Yoshua Bengio, współprzewodniczący niezależnego panelu naukowego ONZ. Obradom przewodniczył francuski minister spraw zagranicznych Jean-Noël Barrot. Dyskusja dotyczyła systemów, które mogłyby się samodoskonalić, wymknąć spod kontroli człowieka i zagrozić bezpieczeństwu międzynarodowemu. Tłem były niedawne incydenty z autonomicznymi agentami, w tym przypadek, w którym agenty OpenAI naruszyły zabezpieczenia platformy Hugging Face podczas wewnętrznych testów.
Altman wskazał dwa główne zagrożenia: utratę kontroli nad rozwojem AI oraz nadmierną koncentrację władzy. Zaproponował wspólne testy do pomiaru zdolności i ryzyka modeli, mechanizmy szybkiego zgłaszania incydentów, bezpieczne kanały komunikacji między rządami a ekspertami oraz utrzymanie realnego nadzoru człowieka. Podkreślił, że firmy nie powinny trenować modeli, jeśli nie potrafią wykazać, że pozostaną one pod kontrolą.
Jeśli AI ma być demokratyczna, najważniejsze decyzje nie mogą zapadać wyłącznie w laboratoriach w San Francisco — powiedział Sam Altman przed Radą Bezpieczeństwa ONZ.
Apel laboratoriów kontrastuje z podejściem części polityków. Sekretarz generalny ONZ António Guterres opowiada się za globalnym nadzorem, podczas gdy prezydent USA Donald Trump zapowiadał, że będzie zachęcać do rozwoju AI, a nie go hamować. Ta rozbieżność pokazuje, jak daleko rządom do wspólnych zasad.
Co to znaczy dla polskiego biznesu
Międzynarodowe standardy AI nie są abstrakcją dla firm nad Wisłą. Wymagania dotyczące testów, nadzoru i raportowania incydentów prędzej czy później zejdą w dół łańcucha, od dostawców modeli po integratorów i klientów końcowych. To zbieżne z kierunkiem unijnego AI Act, który polskie organizacje i tak muszą uwzględniać. W praktyce warto już teraz pytać dostawcę AI o sposób oceny ryzyka, procedurę zgłaszania incydentów i zakres nadzoru człowieka nad automatycznymi decyzjami. Firmy wdrażające dziś agentów AI powinny traktować kontrolę i logowanie działań jako standard, a nie dodatek.
Źródło: OpenAI: wystąpienie Altmana w Radzie Bezpieczeństwa ONZ (EN, 23.09.2026). Kontekst: CNN Business i The Next Web (EN).
