Demokraci chcą zakazać AI w broni autonomicznej. Walka z Pentagonem

Anthropic kontra Pentagon — teraz w Kongresie

Senator Adam Schiff z Kalifornii przygotowuje ustawę, która ma przenieść etyczne zasady Anthropic do prawa federalnego. Chodzi o jedną fundamentalną kwestię: żadna sztuczna inteligencja nie powinna autonomicznie decydować o życiu lub śmierci człowieka.

To rozszerzenie konfliktu między Anthropic a Pentagonem, który tlił się od miesięcy. Firma stojąca za Claude’em publicznie określiła swoje “czerwone linie” — granice, których nie przekroczy nawet dla najbardziej lukratywnych kontraktów rządowych. Departament Obrony najwyraźniej próbował je testować.

Dwa projekty, jeden cel

Schiff nie działa sam. Senator Elissa Slotkin z Michigan — była analityczka CIA i urzędniczka Pentagonu — niedawno złożyła własny projekt ustawy. Jej propozycja celuje w inny problem: masową inwigilację z wykorzystaniem AI.

Slotkin chce ograniczyć Departamentowi Obrony możliwość stosowania systemów sztucznej inteligencji do śledzenia i profilowania obywateli na dużą skalę. Jej doświadczenie w wywiadzie i wojsku nadaje tej inicjatywie dodatkową wiarygodność — nie jest to naiwna pacyfistka, tylko ktoś, kto widział te systemy od środka.

Oba projekty mają wspólny rdzeń: człowiek musi pozostać w pętli decyzyjnej. AI może analizować, sugerować, przyspieszać procesy — ale ostateczne “tak” lub “nie” w sprawach życia i śmierci należy do istoty ludzkiej.

Dlaczego akurat Anthropic?

Anthropic to nie przypadkowy wybór. Firma założona przez byłych pracowników OpenAI od początku pozycjonowała się jako “odpowiedzialna” alternatywa w wyścigu AI. Jej założyciele — Dario i Daniela Amodei — odeszli z OpenAI właśnie z powodu obaw o bezpieczeństwo.

Kiedy inne firmy AI dyskretnie zabiegały o kontrakty z Pentagonem, Anthropic opublikowało listę zastosowań, których nie będzie wspierać. Broń autonomiczna i masowa inwigilacja znalazły się na szczycie tej listy. To nie był PR-owy gest — firma straciła przez to realne przychody.

Teraz Demokraci chcą zamienić korporacyjną etykę w prawo obowiązujące wszystkie firmy AI działające na rynku amerykańskim. Jeśli ustawa przejdzie, zasady Anthropic staną się standardem branżowym — nie z wyboru, lecz z przymusu.

Pentagon nie odpuszcza

Departament Obrony inwestuje miliardy w systemy AI. Projekt Maven, współpraca z Palantir, programy rozpoznawania celów — lista rośnie z każdym kwartałem. Autonomiczna broń to nie science fiction, to aktywne programy badawcze z konkretnymi budżetami.

Wojskowi argumentują, że ograniczenia osłabią pozycję USA wobec Chin i Rosji, które takich skrupułów nie mają. To klasyczny argument wyścigu zbrojeń: jeśli my nie zbudujemy, zbudują oni.

Problem w tym, że “czerwone linie” Anthropic nie dotyczą samej technologii, lecz jej zastosowania. Model AI może analizować dane wywiadowcze, planować logistykę, a nawet symulować scenariusze bojowe. Granica przebiega tam, gdzie algorytm miałby samodzielnie nacisnąć spust.

Szanse na przejście

Oba projekty pochodzą od Demokratów, a Kongres jest podzielony. Republikanie tradycyjnie sprzeciwiają się ograniczeniom dla przemysłu obronnego. Lobbing firm zbrojeniowych ma się świetnie.

Jednak temat AI w wojskowości przestał być abstrakcyjny. Drony w Ukrainie, autonomiczne systemy w Gazie, chińskie programy rozpoznawania twarzy w Sinciang — opinia publiczna widzi, jak wyglądają konsekwencje. Sondaże pokazują rosnący niepokój Amerykanów wobec broni autonomicznej.

Slotkin wygrywa tutaj profilem — trudno oskarżyć byłą urzędniczkę Pentagonu o naiwność w sprawach bezpieczeństwa narodowego. Schiff z kolei to były szef Komisji Wywiadu Izby Reprezentantów. To nie są politycy, którzy nie rozumieją wojskowych realiów.

Co dalej?

Ustawy trafią do komisji, gdzie rozpocznie się typowy legislacyjny ping-pong. Poprawki, negocjacje, kompromisy. Finalna wersja może wyglądać zupełnie inaczej niż oryginalne propozycje.

Anthropic oficjalnie nie komentuje inicjatyw legislacyjnych. Firma konsekwentnie trzyma się stanowiska, że jej zasady etyczne to wewnętrzna sprawa, nie polityczny manifest. Jednocześnie trudno nie zauważyć, że konflikt z Pentagonem dał Demokratom gotowy szablon regulacji.

Ostateczny kształt przepisów zależy od jednego pytania: czy Kongres uzna, że potencjalne zagrożenia autonomicznej broni przewyższają ryzyko pozostania w tyle za konkurencją. Na razie odpowiedź nie jest oczywista dla żadnej ze stron.