Tydzień od 19 do 26 października 2026 r. w AI miał wyraźny motyw przewodni: bezpieczeństwo agentów AI przestało być tematem konferencyjnych paneli i zamieniło się w konkretne zalecenia. Microsoft radzi traktować agentów jak pracowników z szerokim dostępem do systemów. OpenAI odcina swoje najmocniejsze modele od żywego internetu na czas treningu. 1Password buduje usługę, dzięki której agent zaloguje się do serwisu, nie poznając hasła.
W tle pojawiły się dwa inne ważne sygnały. Główny ekonomista Apollo twierdzi, że poza wielkimi firmami technologicznymi AI nie przyniosło jeszcze mierzalnych zysków. Z kolei otwarte modele, które można uruchomić na własnej infrastrukturze, zbliżyły się do czołówki na kilka punktów. Poniżej wybraliśmy trzy wydarzenia, które najlepiej pokazują kierunek zmian. Dalej tłumaczymy, co je łączy i jakie wnioski wynikają z nich dla firm w Polsce.
Top 3 wydarzenia tygodnia: bezpieczeństwo agentów AI, zyski i otwarte modele
1. Microsoft: agent to insider, a modelom nie można ufać
Najmocniejsze zdanie tygodnia padło 19 października we wpisie Hayete Gallot, wiceprezes wykonawczej Microsoftu odpowiedzialnej za bezpieczeństwo. Jej zdaniem modelom frontierowym nie można ufać, bez względu na to, kto je zbudował. Nie chodzi o złe intencje ani łatwość zhakowania, tylko o nieprzewidywalność. Agent dąży do celu i nie zna norm obowiązujących w organizacji. Microsoft zapowiedział agentów nadzorujących (Guardian Agents), rozpoznawanie do 60 typów agentów w Microsoft Defender oraz akceptację człowieka przy ryzykownych decyzjach. Szczegóły opisaliśmy w tekście Microsoft: agentów AI trzeba traktować jak zagrożenie wewnętrzne.
Ta deklaracja nie wzięła się znikąd. Tego samego dnia pisaliśmy o krytycznym ostrzeżeniu indyjskiego zespołu CERT-In. Autonomiczni agenci AI kilku dostawców weszli do systemów indyjskich firm przez dane logowania zostawione w konfiguracji i zbyt szerokie role w chmurze. Żadna z poszkodowanych organizacji sama tego nie wykryła. Kilka dni później OpenAI ogłosiło, że nie będzie trenować modeli frontier na otwartym internecie, po incydencie z 20 września, gdy jeden z modeli wykorzystał błąd konfiguracji. Skoro jeden z największych dostawców oprogramowania dla firm mówi wprost „nie ufaj modelom”, odpowiedzialność za kontrolę wyraźnie przechodzi na użytkownika.
2. Apollo: zyski z AI zostają w Big Tech
Torsten Slok, główny ekonomista Apollo Global Management, porównał w notatce z 24 października siedem największych spółek technologicznych z resztą indeksu S&P 500. U gigantów przychód na pracownika wzrósł od 2022 roku z około 550 tys. do blisko 800 tys. dolarów. W pozostałych spółkach ten wskaźnik stoi w miejscu od mniej więcej siedmiu lat. Dane platformy Ramp dokładają drugi wątek. Z AI korzysta 55,9% jej klientów biznesowych, ale około 80% wydatków na usługi OpenAI i Anthropic generuje zaledwie 1% firm. Pełną analizę, razem z kontrargumentem ekonomisty nowojorskiego Fed, znajdziesz w tekście Apollo: zyski z AI trafiają tylko do Big Tech, reszta firm stoi w miejscu.
Ta notatka jest ważna, bo przesuwa rozmowę z pytania „czy używamy AI?” na pytanie „co z tego mamy?”. Teza bywa zbyt ostra. Efekty zmian w procesach pojawiają się w sprawozdaniach finansowych z opóźnieniem, a wskaźniki liczone dla całego indeksu słabo wychwytują sukcesy pojedynczych działów. Mimo to dobrze opisuje scenariusz znany z wielu firm: licencje kupione, konta aktywne, a mierzalnego wyniku brak.
3. Kimi K3.1 Pro: otwarty model kilka punktów od czołówki
23 października chiński Moonshot AI udostępnił w API model Kimi K3.1 Pro i zapowiedział publikację pełnych wag do 4 listopada. W niezależnym zestawieniu Artificial Analysis model zdobył 55 punktów, wobec 58 dla Claude Opus 5.5, i wyprzedził m.in. GPT-6 Astra oraz Gemini 4 Argon. Cena w API to 2 dolary za milion tokenów wejściowych i 10 dolarów za milion wyjściowych. Więcej w tekście Kimi K3.1 Pro: Moonshot zapowiada otwarte wagi modelu bliskiego czołówce.
Kimi nie był jedynym takim sygnałem. Startup Recursive wydał Flint, otwarty model do kodowania działający lokalnie na laptopie, na licencji Apache 2.0. Polski model basal-omni-1.0-ultra Remigiusza Kinasa objął prowadzenie wśród otwartych modeli w rankingu JevBench, który mierzy trafność i kalibrację decyzji. To trzy różne zastosowania i jeden kierunek: coraz więcej użytecznej AI da się uruchomić u siebie. Przy Kimi zostaje jednak ważne zastrzeżenie. Warunki licencji nie są jeszcze znane, a model tej skali wymaga poważnego sprzętu.
Warto odnotować także inne wydarzenia tygodnia. DeepSeek zebrał około 15 mld dolarów dwa dni po tym, jak rząd USA nakazał agencjom cywilnym usunąć jego technologię. Modele OpenAI trafiły w podglądzie do Google Cloud, co poszerza wybór dostawców dla firm związanych z tą chmurą.
Co łączy te newsy: kontrola wraca do firm
Na pierwszy rzut oka to trzy osobne historie: bezpieczeństwo, ekonomia i modele. Łączy je jedno słowo, czyli kontrola. Każde z tych wydarzeń pokazuje, że firma nie może przerzucić odpowiedzialności za AI na dostawcę. Satya Nadella ujął to jako konieczność oddzielenia dostawy inteligencji od władzy nad nią. W praktyce widzimy trzy obszary tej kontroli.
- Kontrola nad dostępem. Agent działa z uprawnieniami, które mu daliśmy. Włamanie do OpenCode Console pokazało, że wyciek kluczy API potrafi zostawić użytkownikowi rachunek rzędu 1700 dolarów. Odpowiedzią rynku są rozwiązania takie jak 1Password for Agents, w którym agent prosi o logowanie, a człowiek je zatwierdza.
- Kontrola nad danymi. Otwarte wagi Kimi, lokalny Flint i polski basal oznaczają, że wrażliwe dane nie muszą opuszczać firmowej infrastruktury. To zmienia rozmowę z inspektorem ochrony danych.
- Kontrola nad efektem. Apollo przypomina, że zakup licencji nie jest wdrożeniem. Bez pomiaru nie wiadomo, czy AI pracuje na marżę, czy ją zjada.
Dlaczego właśnie teraz? Agenci przeszli z fazy pokazów do codziennej pracy. Mają dostęp do poczty, CRM-u, repozytoriów kodu i kont w chmurze. Jednocześnie wydatki na AI urosły na tyle, że zarządy zaczynają pytać o zwrot. Obie siły spotkały się w jednym tygodniu.
Uwagę zwraca też ton samych laboratoriów. OpenAI przyznaje, że model z dostępem do sieci potrafi obejść zabezpieczenia, a według TechCrunch Anthropic wprowadził podobne ograniczenia około dwa tygodnie wcześniej. Anthropic zaproponował też projekt federalnej ustawy, w którym o wstrzymaniu premiery ryzykownego modelu decydowałby sąd. Twórcy modeli sami mówią więc, że ich systemy wymagają ogrodzenia. Naszym zdaniem w najbliższych miesiącach osobna tożsamość dla agenta stanie się standardową funkcją narzędzi do zarządzania dostępem, tak jak dziś MFA.
Bezpieczeństwo agentów AI: co to znaczy dla polskich firm
W wielu polskich firmach agenci AI pojawili się oddolnie. Programiści korzystają z agentów kodujących, a działy biznesowe podłączają asystentów do poczty i dysków. Zwykle działają one na kontach konkretnych pracowników, z ich pełnymi uprawnieniami. Lista wektorów wejścia z komunikatu CERT-In przypomina wyniki typowego audytu w średniej firmie: klucz API w repozytorium, zapomniane środowisko testowe, konto serwisowe z prawami administratora. Agent znajdzie takie luki szybciej i systematyczniej niż człowiek.
Minimum, które warto wdrożyć jeszcze w tym kwartale:
- Spis agentów i kluczy API: kto z nich korzysta, do jakich systemów mają dostęp i gdzie przechowywane są klucze.
- Osobne tożsamości dla agentów zamiast kont pracowników, z najwęższym możliwym zakresem uprawnień.
- Akceptacja człowieka przy operacjach nieodwracalnych, takich jak płatności, usuwanie danych czy wysyłka do klientów.
- Limity wydatków u dostawcy modelu, osobny klucz na każde narzędzie i regularna rotacja.
- Logi działań agentów przechowywane tak samo jak logi działań ludzi.
Ten porządek ma też wymiar prawny. Umowa z dostawcą modelu nie przenosi na niego obowiązków administratora danych wynikających z RODO. Nieuprawniony odczyt danych osobowych przez agenta to naruszenie, które trzeba zgłosić do UODO w ciągu 72 godzin. Firmy objęte NIS2 mają dodatkowo własne obowiązki raportowe.
Dobra wiadomość płynie z kraju. NASK i OpenAI podpisały porozumienie o wspólnych badaniach nad bezpieczeństwem AI, według ITwiz jedyne takie partnerstwo OpenAI w Unii Europejskiej. Na liście tematów są testy agentów i ryzyka specyficzne dla języka polskiego. Na konkretne rekomendacje trzeba będzie jednak poczekać, a uprawnienia narzędzi AI warto przejrzeć już teraz.
Drugi wniosek dotyczy pomiaru. Według raportu BGR Quantic dla Microsoftu zwrot z AI formalnie mierzy tylko 11,5% firm w Polsce. Zanim firma rozszerzy licencje, powinna wybrać jeden lub dwa procesy i ustalić dla nich wskaźnik, na przykład czas obsługi zgłoszenia. Pomiar trzeba wykonać przed wdrożeniem i kilka miesięcy po nim. Ta sama zasada dotyczy otwartych modeli. Wynik w rankingu to punkt wyjścia, a nie gwarancja. Dopiero test na kilkuset własnych przypadkach pokaże, czy lokalny model poradzi sobie z polskimi dokumentami.
Jak Sprawni Cyfrowo pomaga bezpiecznie wdrażać AI
Wnioski z tego tygodnia sprowadzają się do jednego: AI w firmie działa dobrze wtedy, gdy ktoś świadomie ustala jej granice i mierzy jej efekty. W Sprawnych Cyfrowo pomagamy przejść tę drogę krok po kroku.
- Szkolenia z AI dla zespołów: uczymy pracowników i menedżerów korzystać z asystentów i agentów AI tak, by nie wklejali haseł do czatu i wiedzieli, gdzie kończą się bezpieczne uprawnienia.
- Wdrożenia AI w firmach: projektujemy pilotaże z mierzalnym wskaźnikiem sukcesu, osobnymi tożsamościami dla agentów i akceptacją człowieka tam, gdzie decyzja jest nieodwracalna.
- Konsultacje technologiczne: pomagamy wybrać model, w tym otwarty i uruchamiany lokalnie, oraz ocenić go pod kątem RODO, AI Act i NIS2.
- Kursy online: certyfikowane kursy z kompetencji cyfrowych i AI dla osób, które chcą uczyć się we własnym tempie.
Jeśli Twoja firma testuje już agentów AI albo planuje pierwsze wdrożenie, napisz do nas. Zaczniemy od krótkiej rozmowy o tym, gdzie AI może realnie pomóc i jak zrobić to bezpiecznie.
