Pentagon vs Anthropic: sabotaż AI na wojnie?
- Departament Obrony USA postawił Anthropic zarzut możliwości zdalnej manipulacji modelami AI podczas trwających operacji wojskowych.
- Anthropic odpiera oskarżenia, argumentując że modele wdrożone w infrastrukturze wojskowej działają w pełnej izolacji od serwerów firmy.
- Spór odsłania głębszy dylemat rządów: budować własne modele AI czy polegać na prywatnych dostawcach, ryzykując zależność od ich decyzji.
Czy Anthropic może wyłączyć Claude’a armii w środku bitwy?
Departament Obrony Stanów Zjednoczonych oskarżył Anthropic — twórcę Claude’a — o to, że firma mogłaby zdalnie manipulować swoimi modelami AI podczas trwającego konfliktu zbrojnego. Anthropic odpowiada krótko: to technicznie niemożliwe.
Skąd Pentagon wziął ten scenariusz?
Amerykańskie siły zbrojne intensywnie wdrażają modele językowe do analizy wywiadowczej, planowania logistycznego i wsparcia procesów decyzyjnych. Im głębiej AI wchodzi w operacyjne struktury armii, tym bardziej drażliwe staje się pytanie o to, kto faktycznie kontroluje te narzędzia po wdrożeniu.
Wojskowi planiści postawili konkretny problem: co się stanie, jeśli dostawca modelu zdecyduje się zaingerować w jego działanie w trakcie krytycznej operacji? Brzmi jak fabuła z serialu sci-fi, ale dla Pentagonu to realna luka w architekturze bezpieczeństwa.
Zarzuty wobec Anthropic wpisują się też w szerszą debatę o kontroli nad narzędziami AI po ich komercyjnym wdrożeniu. Czy producent modelu zachowuje nad nim faktyczną władzę? A jeśli tak — czy może ją przekazać w całości użytkownikowi końcowemu, nawet jeśli tym użytkownikiem jest armia supermocarstwa?
Anthropic: fizyczna separacja wyklucza manipulację
Przedstawiciele Anthropic odrzucają oskarżenia i opierają swoją argumentację na konkretach technicznych.
Model AI wdrożony w infrastrukturze klienta — szczególnie w zamkniętym środowisku Departamentu Obrony — działa w izolacji od serwerów producenta. Anthropic nie ma kanału, przez który mogłoby zdalnie modyfikować wagi modelu, zmieniać jego zachowanie ani wyłączać funkcji. To nie jest deklaracja dobrej woli — to fizyczna separacja systemów.
Model działający w zamkniętej sieci wojskowej nie komunikuje się z infrastrukturą Anthropic. Żaden sygnał z zewnątrz tam nie dotrze. Firma dodaje, że jej modele przechodzą rygorystyczne audyty bezpieczeństwa przed każdym wdrożeniem rządowym, a ewentualna tylna furtka zostałaby wykryta właśnie na tym etapie.
Kto kontroluje krytyczną infrastrukturę AI?
Spór Pentagon–Anthropic to objaw głębszego problemu, z którym mierzy się teraz wiele rządów. Dwie opcje, żadna wygodna.
Budowa własnych modeli AI od zera wymaga miliardów dolarów i dostępu do specjalistów, których na rynku brakuje nawet najbogatszym państwom. Kupowanie gotowych rozwiązań komercyjnych jest szybsze i tańsze, ale oznacza zależność od prywatnych firm, które mają własne interesy, wewnętrzne polityki etyczne i mogą podlegać naciskom zewnętrznych aktorów.
Anthropic konsekwentnie pozycjonuje się jako firma stawiająca bezpieczeństwo AI ponad wzrost. Wielokrotnie opowiadała się za regulacjami branży i sama wdrożyła wewnętrzne mechanizmy ograniczające możliwości swoich modeli. Dla Pentagonu to paradoks: firma znana z ostrożności wobec własnych technologii jest jednocześnie oskarżana o to, że mogłaby tę technologię uzbrajać przeciwko własnemu klientowi.
To się nie skończyło na jednej wymianie zdań
Anthropic nie jest jedyną firmą AI, która trafia pod lupę wojskowych i rządowych analityków bezpieczeństwa. Podobne pytania padają wobec OpenAI, Google DeepMind i każdego innego dostawcy, którego modele zaczynają obsługiwać systemy o znaczeniu operacyjnym.
Kwestia, czy prywatna firma powinna w ogóle mieć dostęp do infrastruktury, na której jej model pracuje po wdrożeniu, nie ma jeszcze jednoznacznej odpowiedzi prawnej ani regulacyjnej — ani w USA, ani w Europie. Jak długo tak zostanie?
