Google i Pentagon. Klasyfikowana umowa na AI bez limitów.

Google podpisał klasyfikowaną umowę z Departamentem Obrony USA, która pozwala Pentagonowi używać modeli AI firmy do „dowolnego legalnego celu rządowego” — donosi The Information.

Timing jest brutalny

Umowę ujawniono mniej niż 24 godziny po tym, jak pracownicy Google wystosowali wewnętrzne żądanie do CEO Sundara Pichai, aby zablokował dostęp Pentagonu do technologii AI firmy. Trudno o lepszy przykład korporacyjnego „mówimy jedno, robimy drugie”. Pracownicy powołali się na obawy etyczne — umowa klasyfikowana mówi sama za siebie.

Co dokładnie obejmuje deal?

Sformułowanie „any lawful government purpose” to celowo szeroka klauzula. Oznacza ona w praktyce, że Pentagon może odpalić modele Google’a do analizy wywiadowczej, planowania operacji logistycznych, automatyzacji dokumentacji wojskowej czy czegokolwiek innego, co mieści się w ramach prawa federalnego USA. Klasyfikowany charakter umowy sprawia, że szczegółów technicznych — które konkretnie modele, jakie guardrails, jakie limity użycia — publicznie nie znamy.

Google nie jest tu pionierem. Microsoft od lat dostarcza Azure i narzędzia AI do instytucji rządowych i wojskowych w ramach kontraktów JEDI i kolejnych. Palantir zbudował na tym cały biznes. Google przez długi czas unikał tego segmentu — słynny bunt pracowników w 2018 roku wokół Project Maven skutecznie wyhamował wojskowe ambicje firmy na kilka lat.

Czy Maven wraca przez tylne drzwi?

Project Maven to program Pentagonu z 2017 roku, w którym AI miała automatycznie analizować materiały z dronów wojskowych. Google wycofał się z niego w 2018 roku po tym, jak ponad 4000 pracowników podpisało petycję — część z nich odeszła z firmy w proteście. Firma zaktualizowała wtedy swoje wytyczne AI, wykluczając zastosowania militarne związane z „technologiami broni”.

Obecna umowa formalnie nie łamie tych wytycznych, bo dotyczy „legalnych celów rządowych”, a nie bezpośrednio systemów uzbrojenia. Ale granica jest cienka. Analiza danych wywiadowczych wspierająca decyzje operacyjne to nie jest marketing automation.

Ile to jest warte?

The Information nie podaje wartości kontraktu. Dla kontekstu: Microsoft wygrał kontrakt JEDI z Pentagonem wart 10 miliardów dolarów w 2019 roku, a późniejszy JWCC to kontrakt ramowy na 9 miliardów rozłożony na kilka firm, w tym Google’a. Wojsko USA to jeden z największych pojedynczych klientów enterprise na świecie — z budżetem IT sięgającym kilkudziesięciu miliardów dolarów rocznie.

Googla od lat boli to, że konkurenci zgarniali te kontrakty, podczas gdy Googleplex zajmował się etyką AI. Teraz Sundar Pichai wyraźnie postanowił, że firma nie zostanie w tyle.

Pracownicy kontra zarząd — znajomy scenariusz

Wewnętrzny protest pracowników Google to już tradycja. W 2018 roku Maven, w 2019 roku Project Dragonfly (chiński silnik wyszukiwania z cenzurą), w 2020 roku zwolnienia po próbach organizowania związków zawodowych. Za każdym razem zarząd wysłuchiwał, komunikował i ostatecznie robił swoje.

Tym razem reakcja była wyjątkowo szybka — umowa wyszła na jaw niemal natychmiast po proteście, co sugeruje, że była już podpisana, kiedy pracownicy wysyłali petycję. Albo ktoś celowo ją wyciekł, albo zbieg okoliczności jest spektakularnie zły dla PR firmy.

Czy Google wbudował jakiekolwiek mechanizmy nadzoru etycznego w tę umowę — tego klasyfikacja skutecznie ukrywa przed opinią publiczną.”, “coverImageAlt”: “Ilustracja przedstawiająca logo Google na tle budynku Pentagonu i ikon AI