OpenAI vs Anthropic. Wojna o prawo do masowych błędów AI

Anthropic i OpenAI otwarcie kłócą się o projekt ustawy stanu Illinois, który zwalniałby laboratoria AI z odpowiedzialności za masowe zgony i katastrofy finansalne spowodowane przez ich modele.

OpenAI chce tarczy, Anthropic mówi: nie

Projektowane prawo Illinois to nie drobna regulacja — to potencjalny parasol ochronny dla całej branży przed pozwami w przypadku, gdy AI zawiedzie na dużą skalę. OpenAI poparło projekt, a Anthropic wyszło z publicznym sprzeciwem. To rzadka sytuacja, kiedy dwie firmy, które często prezentują się jako partnerzy w budowaniu “bezpiecznej AI”, tak wyraźnie rozchodzą się w kwestii własnej odpowiedzialności prawnej.

Anthropic argumentuje, że zdjęcie odpowiedzialności z laboratoriów w sytuacjach ekstremalnych szkód to zły precedens. Trudno nie zauważyć ironii: firma znana z filozofii “safety first” i dokumentów o ryzykach egzystencjalnych AI sprzeciwia się prawu, które w praktyce chroniłoby labsy przed konsekwencjami tych właśnie ryzyk.

Czy Illinois ustawi standardy dla całych Stanów?

Projekty ustaw w jednym stanie rzadko pozostają lokalne, szczególnie gdy dotyczą technologii. Jeśli Illinois przepchnęłoby taką regulację, mogłoby to wywołać efekt domina — inne stany zaczęłyby rozważać podobne przepisy, a lobbyści obu stron już szykowaliby się do marszów na kolejne kapitole.

Stany Zjednoczone nie mają na razie federalnego prawa regulującego odpowiedzialność AI za szkody. Vacuum prawne sprawia, że bitwy toczą się lokalnie, a firmy aktywnie kształtują przepisy wszędzie tam, gdzie mają szansę.

OpenAI, które lobbuje za ustawą, ma w tym oczywisty interes — jego produkty są wdrażane przez tysiące firm i instytucji. Każdy wypadek na dużą skalę mógłby oznaczać lawinę pozwów bez takiej ochrony prawnej.

Dwie firmy, dwa modele biznesowe, dwie filozofie ryzyka

Różnica stanowisk między Anthropic a OpenAI nie jest przypadkowa. Anthropic buduje swoją markę na narracji o odpowiedzialnym AI — ich marketingowy koń pociągowy to bezpieczeństwo i przejrzystość. Sprzeciw wobec ustawy jest spójny z tym wizerunkeim, nawet jeśli realnie też chroniłby Anthropic przed pozwami.

OpenAI gra inaczej. Po wejściu kapitału Microsoftu i wycenie na poziomie ponad 150 miliardów dolarów firma działa bardziej jak korporacja niż nonprofit z misją. Ochrona przed odpowiedzialnością prawną wpisuje się w logikę skalowania bez hamulców.

Warto też zauważyć, że Anthropic zebrał w ostatnich rundach łącznie ponad 7 miliardów dolarów od Google i innych inwestorów — więc finansowo też nie jest biednym altruistą. Sprzeciw wobec ustawy to jednak konkretna deklaracja: “my chcemy być rozliczalni”.

Co z firmami, które wdrażają te systemy?

Najwięksi przegrani w tej debacie mogą być zupełnie pomijani: firmy i instytucje, które integrują modele AI w swoich produktach. Jeśli Illinois — lub inne stany — zdejmą odpowiedzialność z laboratoriów, ciężar przesunie się na deweloperów i operatorów końcowych.

Hospital w Chicago wdrażający narzędzie diagnostyczne oparte na GPT-4, bank używający Claude’a do oceny kredytowej — to oni zostaliby z pozwami, gdyby coś poszło nie tak. Laboratoria myją ręce, a enterprise płaci.

Ta dynamika jest znana z branży software — licencje “AS IS” od dekad chronią producentów oprogramowania. AI podnosi jednak stawki, bo skutki błędów mogą być fizyczne, a nie tylko finansowe.

Głosowanie jeszcze nie odbyło się

Projekt ustawy wciąż jest na etapie legislacyjnym w Illinois — data głosowania nie została podana. Ale to, że dwie największe firmy AI publicznie kłócą się o jego kształt, pokazuje jak bardzo branża boi się precedensów prawnych bardziej niż jakichkolwiek benchmarków bezpieczeństwa.

Anthropik zapowiedział dalsze działania lobbingowe przeciwko projektowi. OpenAI na razie milczy o szczegółach swojego wsparcia dla ustawy.