ChatGPT dostaje funkcję alarmową — powiadomi bliskich o ryzyku

OpenAI dodało do ChatGPT funkcję o nazwie Trusted Contact, która umożliwia użytkownikom wskazanie zaufanej osoby — przyjaciela, rodzica lub terapeuty — do automatycznego powiadomienia, gdy rozmowa skręci w stronę kryzysu psychicznego lub samookaleczenia.

Jak to działa

Użytkownik z góry wskazuje konkretny kontakt i wyraża zgodę na jego powiadomienie. Gdy ChatGPT wykryje niepokojące sygnały w trakcie rozmowy, system może automatycznie wysłać alert do tej osoby. OpenAI nie podało szczegółów technicznych dotyczących progu czułości algorytmu detekcji ani tego, czy powiadomienie trafia SMS-em, mailem czy przez aplikację.

Funkcja ma charakter opt-in — ChatGPT nie zacznie z automatu wysyłać alertów do rodziny każdego, kto wspomni o złym dniu.

Czy ChatGPT jest gotowy na rolę pierwszej pomocy psychicznej?

To pytanie zadaje sobie branża od dawna, ale OpenAI odpowiedziało na nie działaniem zamiast deklaracją. ChatGPT ma setki milionów użytkowników — część z nich szuka wsparcia emocjonalnego właśnie tam, bo chatbot jest dostępny o 3 w nocy, nie ocenia i nie pyta o ubezpieczenie zdrowotne.

Badania pokazują, że ludzie chętniej dzielą się trudnymi przeżyciami z systemami AI niż z innymi ludźmi — właśnie dlatego, że rozmowa nie niesie społecznych konsekwencji. To stawia OpenAI w pozycji de facto dostawcy infrastruktury zdrowia psychicznego, niezależnie od tego, czy firma tego chciała.

Wcześniej ChatGPT przy wątkach kryzysowych wyświetlał numery telefonów zaufania, np. 116 123 w Polsce. Trusted Contact idzie o krok dalej — ze statycznej informacji przechodzi do aktywnego działania.

OpenAI rozszerza pakiet zabezpieczeń

Trusted Contact to nie jedyna zmiana. OpenAI równolegle pracuje nad szerszym zestawem mechanizmów ochrony użytkowników w sytuacjach podwyższonego ryzyka psychicznego. Firma nie ujawniła pełnej listy planowanych funkcji ani harmonogramu wdrożeń.

Kontekst regulacyjny ma tu znaczenie. Unia Europejska w ramach AI Act wymaga od dostawców systemów AI wysokiego ryzyka zapewnienia odpowiednich zabezpieczeń — a aplikacje mogące wpływać na zdrowie psychiczne użytkowników wpadają w tę kategorię. OpenAI działa więc nie tylko z własnej inicjatywy.

Kto za to odpowiada, gdy coś pójdzie nie tak?

To jest twarde pytanie, na które OpenAI jeszcze nie odpowiedziało publicznie. Co się stanie, jeśli algorytm nie wykryje sygnałów kryzysu i nie wyśle alertu? Albo wyśle go przez pomyłkę, ujawniając wrażliwe informacje o stanie psychicznym użytkownika osobie, której nie powinien?

Kwestia odpowiedzialności prawnej przy tego typu funkcjach jest nierozstrzygnięta w większości jurysdykcji. Tradycyjne platformy technologiczne kryją się za Section 230 w USA, ale aktywne powiadamianie o stanach kryzysowych to inna liga — bliżej telemedycyny niż mediów społecznościowych.

OpenAI nie jest pierwszą firmą, która wchodzi w ten obszar. Crisis Text Line i podobne organizacje od lat budują protokoły interwencji kryzysowej online. ChatGPT ma jednak skalę, jakiej żadna z nich nie osiągnęła — i właśnie ta skala sprawia, że margines błędu robi się bardzo cienki.

Funkcja Trusted Contact jest już dostępna dla użytkowników, choć OpenAI nie ogłosiło, od kiedy dokładnie i w których regionach geograficznych.