Sam Altman przeprasza za milczenie po masakrze w Kanadzie

Sam Altman wysłał list z przeprosinami do mieszkańców Tumbler Ridge w Kanadzie, przyznając, że OpenAI nie ostrzegło służb przed sprawcą niedawnej strzelaniny masowej. Szef firmy wart ponad 80 miliardów dolarów napisał, że jest „głęboko sorry” — i to słowo robi tu całą robotę.

OpenAI miało dane. I siedziało cicho.

Z listu Altmana wynika, że firma miała dostęp do informacji sugerujących zagrożenie ze strony podejrzanego, ale nie przekazała ich organom ścigania przed tragedią. Ile czasu upłynęło między tym, kiedy systemy OpenAI zetknęły się z sygnałami alarmowymi a strzelaniną — tego firma publicznie nie ujawniła.

To nie jest pierwszy przypadek, gdy duże modele językowe trafiają w środek śledztwa po tym, jak ktoś użył chatbota do planowania lub wyrażenia zamiaru przemocy. Ale to pierwszy raz, kiedy CEO tak dużej firmy AI wysyła bezpośredni list do konkretnej społeczności dotkniętej tragedią.

Czy przeprosiny to wystarczająca odpowiedź?

Altman nie ogłosił żadnych konkretnych zmian w polityce raportowania zagrożeń. List zawiera wyrazy ubolewania, ale nie harmonogram wdrożenia procedur, które miałyby zapobiec podobnym sytuacjom. Kanadyjskie media lokalne zwróciły uwagę, że mieszkańcy Tumbler Ridge oczekiwali czegoś więcej niż kurtuazyjnej korespondencji.

OpenAI ma już wewnętrzne zasady dotyczące tzw. „safety reporting” — zgłaszania przypadków, gdy użytkownicy sygnalizują zamiar skrzywdzenia innych. W praktyce egzekwowanie tych zasad pozostaje niejasne, a firma rzadko opisuje publicznie, ile takich zgłoszeń trafia do służb rocznie.

Strzelanina w Tumbler Ridge

Tumbler Ridge to miejscowość licząca około 2 000 mieszkańców w Kolumbii Brytyjskiej. Strzelanina masowa — jedno z najtragiczniejszych wydarzeń w historii tego regionu — wstrząsnęła społecznością, która teraz dowiaduje się, że firma z San Francisco mogła dysponować wiedzą o sprawcy wcześniej.

Kanadyjska policja prowadzi śledztwo. Na razie nie ujawniono, jakie konkretnie interakcje z produktami OpenAI miał podejrzany ani w jakim momencie firma identyfikuje je jako niepokojące.

Co to mówi o branży AI?

Inne firmy — Anthropic, Google DeepMind, Meta AI — też nie publikują transparentnych raportów o tym, ile razy ich modele były świadkami sygnałów poprzedzających przemoc i co z nimi zrobiły. Brak regulacyjnego wymogu raportowania takich incydentów to luka, na którą od lat wskazują badacze bezpieczeństwa.

UE w ramach AI Act nakłada na dostawców modeli wysokiego ryzyka obowiązek monitorowania nadużyć, ale szczegółowe wymagania dotyczące współpracy z organami ścigania w sprawach kryminalnych wciąż są rozmyte. W USA nie ma nawet tego.

Czy OpenAI zmieni swoje procedury?

Firma nie podała żadnego harmonogramu ani konkretnych działań naprawczych. Altman w liście zaznaczył, że OpenAI „pracuje nad poprawą swoich systemów” — sformułowanie na tyle ogólne, że trudno traktować je jako zobowiązanie.

Branża AI spędza miliardy dolarów na budowaniu modeli coraz lepiej rozumiejących intencje użytkowników. Paradoks polega na tym, że ta sama zdolność do interpretacji kontekstu, która ma czynić chatboty „pomocnymi”, powinna też uruchamiać alarm, gdy ktoś planuje masowe morderstwo. Skoro system jest wystarczająco dobry, żeby generować profesjonalne CV, to dlaczego nie wystarczająco dobry, żeby zadzwonić na policję?

Mieszkańcy Tumbler Ridge czekają na odpowiedź, której list Altmana im nie dał.”, “coverImageAlt”: “Ilustracja przedstawiająca logo OpenAI na tle zaciemnionego tła z symbolem ostrzeżenia