Anthropic ukrywał zabezpieczenia Claude Fable - przeprasza i zmienia podejście
- Anthropic ukrywał przed użytkownikami Claude Fable mechanizm celowego pogarszania odpowiedzi, gdy model wykrywał próby destylacji danych do trenowania konkurencyjnych systemów AI.
- Po publicznej krytyce środowiska badaczy firma przeprosiła i zapowiedziała, że odtąd będzie widocznie informować o każdym przypadku uruchomienia zabezpieczeń.
- Zapytania uznane za próby destylacji będą teraz kierowane do Claude Opus 4.8 z wyraźnym komunikatem dla użytkownika.
Anthropic przepraszał 11 czerwca 2026 za ukryte zabezpieczenie w Claude Fable, które po cichu pogarszało odpowiedzi modelu - bez żadnego powiadomienia dla użytkownika. Firma przyznała, że obrała złą strategię i zapowiedziała pełną transparentność przy każdym uruchomieniu filtrów.
Claude Fable celowo “kłamał” w odpowiedziach
Fable to pierwszy publicznie dostępny model z serii Mythos - klasy systemów, które Anthropic przez wiele miesięcy opisywał jako zbyt niebezpieczne do wydania bez dodatkowych zabezpieczeń. Jednym z tych zabezpieczeń był mechanizm antydestylacyjny: gdy model uznał, że użytkownik próbuje pobrać jego odpowiedzi w celu wytrenowania mniejszego, konkurencyjnego modelu, automatycznie zmieniał i degradował swoje odpowiedzi. Bez żadnej informacji zwrotnej. Bez komunikatu błędu.
Destylacja to powszechna technika w badaniach nad AI - polega na uczeniu mniejszych modeli na podstawie outputów większych. Anthropic zakazał jej w regulaminie, powołując się na to, że “nowsze modele potrafią istotnie przyspieszyć rozwój AI”. Firma wcześniej oskarżała chińskie firmy, w tym DeepSeek, o nieuczciwą destylację danych z jej systemów.
Czy niewidzialne filtry to uczciwa zagrywka?
Anthropic tłumaczył decyzję o ukrytym mechanizmie w systemowej karcie Fable - publicznym dokumencie opisującym działanie modelu. Argument brzmiał: widoczne zabezpieczenia można zbadać i ominąć, więc wymagają więcej pracy, żeby były skuteczne. Niewidoczne można wdrożyć szybciej i kalibrować wąsko, minimalizując fałszywe alarmy.
Ten tok rozumowania nie przekonał środowiska badaczy. Główny zarzut był prosty: skoro Fable samodzielnie decydował, kto “próbuje destylować”, każdy zewnętrzny ewaluator testujący model mógł nieświadomie dostawać zmodyfikowane odpowiedzi. To fundamentalnie podważa możliwość rzetelnej oceny możliwości systemu przez strony trzecie - a właśnie niezależna ewaluacja jest jednym z filarów bezpieczeństwa AI.
“Widoczne zabezpieczenia można zbadać, więc muszą być solidne - a to wymaga czasu. Niewidoczne można nakierować wąsko, co pozwala szybciej wdrożyć z bardzo małą liczbą fałszywych alarmów. Z tego powodu wybraliśmy niewidoczne - i to był zły kompromis. Powinniście wiedzieć, jakie zabezpieczenia stosujemy i dlaczego. Przepraszamy, że nie dobraliśmy właściwej równowagi” - napisał Anthropic na X.
Jak Fable obsługuje teraz ryzykowne zapytania
Zmiana jest konkretna. Zapytania zaklasyfikowane jako próba destylacji nie są już po cichu przepisywane - trafiają do Claude Opus 4.8, poprzedniego flagowego modelu Anthropic. Użytkownik zobaczy komunikat za każdym razem, gdy to nastąpi.
To ujednolica podejście do różnych kategorii ryzyka. Fable stosuje podobny fallback dla zapytań z obszarów biologii, chemii i cyberbezpieczeństwa: albo przekierowuje do Opus 4.8, albo blokuje zapytanie całkowicie, gdy narusza szersze zasady bezpieczeństwa - np. dotyczące broni czy narkotyków.
Anthropic przyznał przy okazji, że filtry biologiczne są skalibrowane tak szeroko, że Fable staje się praktycznie bezużyteczny nawet przy podstawowych pytaniach z tej dziedziny. Firma potwierdziła ten problem w komentarzu dla The Verge, nie podając jeszcze terminu poprawki.
Mythos: za niebezpieczny, ale już dostępny
Fable to dopiero pierwszy model z serii Mythos, którą Anthropic przez długi czas opisywał jako zbyt ryzykowną do publicznego udostępnienia. Samo wydanie modelu poprzedziły miesiące ostrzeżeń ze strony firmy - co czyni decyzję o ukrytych mechanizmach tym bardziej kontrowersyjną: jeśli model jest tak potężny, że wymaga ukrytych filtrów, to czy zewnętrzni badacze powinni w ogóle dostać do niego dostęp bez jasnej informacji, co dostają?
Anthropic nie odpowiedział dotychczas na pytanie, czy podobne ukryte mechanizmy działały lub działają w innych modelach z portfolio firmy.
