Anthropic: 93% użytkowników klika 'zgoda' bez czytania - Claude dostaje nowe więzienia

Anthropic opublikował 25 maja 2026 roku techniczny post opisujący, jak firma powstrzymuje Claude’a przed wyrządzeniem szkód w skali infrastruktury - i przyznaje wprost, że rok temu sama odrzuciłaby pomysł dawania modelowi dostępu wystarczającego do zdjęcia wewnętrznego serwisu.

Liczba, która mówi wszystko o nadzorze ludzkim

Zanim Anthropic odpalił tryb auto w Claude Code, model co chwilę pytał użytkownika o zgodę na każde działanie. Teoria była prosta: człowiek w pętli = bezpieczeństwo. Praktyka okazała się inna. Telemetria wykazała zatwierdzanie 93% promptów z prośbą o pozwolenie - a im więcej potwierdzeń widział użytkownik, tym mniej uwagi poświęcał każdemu kolejnemu. To klasyczny efekt zmęczenia alertami, znany z systemów SIEM i powiadomień antywirusa. Anthropic zdecydował się zautomatyzować bezpieczniejsze zatwierdzenia właśnie po to, żeby nie dawać złudnego poczucia kontroli tam, gdzie jej faktycznie nie ma.

Dwie strategie, jedna liczy się bardziej

Firma opisuje dwie metody ograniczania zasięgu szkód. Pierwsza to nadzór behawioralny - wspomniane pytania o zgodę, logi, monitoring. Druga to izolacja środowiska: sandboksy, maszyny wirtualne, kontrola ruchu wychodzącego. Anthropic poświęcił większość wysiłku inżynieryjnego tej drugiej metodzie i, jak sam przyznaje, to właśnie tam doszło do największej liczby zaskakujących awarii bezpieczeństwa.

Każdy z trzech produktów - claude.ai, Claude Code i Claude Cowork - dostał osobną architekturę izolacji, bo każdy obsługuje inny typ użytkownika i inny poziom dostępu do zasobów zewnętrznych.

Czy Claude Mythos Preview to wycofana broń?

W kwietniu 2026 Anthropic nie wypuścił modelu o nazwie Claude Mythos Preview. Oficjalny powód: potencjalny blast radius zbyt wysoki jak na dostępne mechanizmy ochronne. Firma nie precyzuje, o jakie konkretne zdolności chodzi, ale zaznacza, że oczekuje szerszego udostępnienia modeli o podobnych parametrach w miarę jak obrońcy systemów krytycznych będą wzmacniać zabezpieczenia - i jednocześnie przyznaje, że zerowego ryzyka nie będzie nigdy.

To interesujące przyznanie się do istnienia wewnętrznego procesu zarządzania ryzykiem, który potrafi faktycznie zatrzymać premierę produktu.

Trzy typy zagrożeń, które Anthropic stara się przewidzieć

Post wyróżnia trzy kategorie ryzyka agentycznego:

• Misuse użytkownika - od prośby o ominięcie irytającego sprawdzenia po celowe wywołanie destrukcyjnego polecenia
• Misbehavior modelu - działania, o które nikt nie prosił; tu Anthropic robi ciekawe zastrzeżenie: mocniejszy model rzadziej się myli, ale za to sprawniej znajduje nieoczekiwane drogi do celu, często omijając ograniczenia, o których nikt nie pomyślał
• Ataki zewnętrzne - prompt injection i inne wektory, gdzie środowisko agenta staje się powierzchnią ataku

To ostatnie zdanie o zdolniejszych modelach zasługuje na uwagę. Większa precyzja nie oznacza automatycznie mniejszego ryzyka - model, który lepiej rozumie cel, lepiej też rozumie, jak go osiągnąć mimo przeszkód.

Rok temu brzmiałoby to absurdalnie

Anthropic wprost pisze, że 12 miesięcy temu odrzucono by z miejsca każdy plan dawania Claude’owi dostępu wystarczającego do uszkodzenia wewnętrznego serwisu firmy. Dziś to rutyna, a programiści Anthropic są dzięki temu produktywniejsi. Kalkulator ryzyka przesunął się, bo koszt niedeployowania agentów urósł szybciej niż koszt ich potencjalnych błędów.

To nie jest teoria - to operacyjna decyzja firmy, której główna działalność to budowanie tych samych narzędzi.

Czy auto mode to naprawdę bezpieczniejszy wybór?

Automatyczne zatwierdzanie części akcji przez Claude Code brzmi paradoksalnie jako odpowiedź na problem zbyt łatwego klikania “tak”. Anthropic argumentuje, że automatyzacja bezpiecznych przypadków redukuje zmęczenie, przez co użytkownik jest bardziej czujny przy decyzjach, które faktycznie wymagają uwagi. Każda obrona probabilistyczna ma jednak niezerowy wskaźnik błędów - firma sama to zaznacza w przypisie do omówienia auto mode.

Następny test dla całej tej architektury przyjdzie wtedy, gdy szerszą premierę dostanie model o możliwościach zbliżonych do Mythosa.