AI napędza oszustwa. ChatGPT był tylko początkiem

Generatywne AI zamieniło tworzenie przekonujących oszustw z rzemiosła wymagającego umiejętności w zadanie dla każdego z dostępem do internetu. MIT Technology Review opisuje nową falę scamów, w której modele językowe, klonowanie głosu i synteza wideo działają jak kompletna linia produkcyjna do wyłudzeń.

ChatGPT otworzył puszkę Pandory

Kiedy OpenAI wypuścił ChatGPT w listopadzie 2022 roku, główna narracja kręciła się wokół produktywności i kreatywności. Nikt nie nagłaśniał faktu, że ten sam model potrafi napisać 10 000 spersonalizowanych e-maili phishingowych szybciej, niż dział IT zdąży wdrożyć filtr antyspamowy. Bariera wejścia dla cyberprzestępców spadła do zera — wystarczy konto i dobry prompt.

Wcześniej przekonujący scam wymagał natywnego użytkownika języka, znajomości kontekstu kulturowego i czasu. Teraz AI generuje perfekcyjny biznesowy angielski, polski czy mandaryński na żądanie, dostosowując ton do ofiary.

Czy skala problemu w ogóle da się zmierzyć?

FBI odnotowało straty z tytułu cyberprzestępczości na poziomie 12,5 mld dolarów w 2023 roku — wzrost o 22% rok do roku. Część analityków uważa tę liczbę za mocno zaniżoną, bo większość ofiar nigdy nie zgłasza incydentów. Problem polega na tym, że stare metody detekcji — szukaj literówek, sprawdź gramatykę — przestały działać w momencie, gdy za pisanie wziął się GPT-4.

Klonowanie głosu to osobna kategoria bólu głowy. Trzy sekundy nagrania z mediów społecznościowych wystarczą narzędziom takim jak ElevenLabs, żeby wygenerować przekonującą imitację. „Babcia, dzwoń do syna, bo jestem w areszcie i potrzebuję 5000 złotych” brzmi teraz głosem syna.

Deepfake wideo wchodzi do mainstreamu

Do niedawna realistyczny deepfake wideo wymagał mocnego GPU i tygodni pracy. Runway, Pika i dziesiątki chińskich startupów sprowadziły czas produkcji do minut. W lutym 2024 roku pracownik hongkońskiej firmy finansowej przelał 25 mln dolarów po wideokonferencji z „CFO” — który był w całości wygenerowany przez AI. Nikt przy stole nie był prawdziwy.

To nie jest scenariusz z science fiction — to akt oskarżenia wobec tempa, w jakim korporacyjne procedury weryfikacji nie nadążają za możliwościami technologii.

Regulatorzy gonią uciekający pociąg

Unia Europejska pracuje nad AI Act, który wymaga znakowania treści generowanych przez AI. Problem: watermarki da się usunąć, a obowiązek znakowania nie obejmuje złośliwych aktorów z Korei Północnej czy Nigerii. FTC w USA zaczęła ścigać firmy oferujące „AI clone services” do wyłudzeń, ale egzekwowanie prawa w 180 jurysdykcjach jednocześnie to logistyczny koszmar.

Anthropić i OpenAI wdrożyły własne zabezpieczenia — klasyfikatory treści, limity na masowe generowanie, monitorowanie podejrzanych wzorców użycia. Skuteczność tych systemów jest niejawna. Czerwone zespoły (red teams) regularnie pokazują, że da się je obejść w ciągu kilku minut przy odrobinie kreatywności promptowania.

Kto na tym zarabia poza oszustami?

Cybersecurity. Firmy takie jak Darktrace, CrowdStrike czy polski Cybereason notują rosnący popyt na systemy wykrywania anomalii zasilane — ironicznie — tym samym AI, który napędza ataki. Darktrace w 2023 roku zwiększył przychody o 24% do 544 mln dolarów, częściowo właśnie dzięki segmentowi detekcji AI-driven scamów.

Banki inwestują w modele wykrywające deepfake audio w czasie rzeczywistym podczas rozmów z infolinią. HSBC ogłosił pilotaż takiego systemu w Q1 2024. Koszt wdrożenia: kilkadziesiąt milionów dolarów. Koszt jednego udanego ataku na instytucję finansową: porównywalny lub wyższy.

MIT Technology Review zauważa, że jesteśmy na początku krzywej — modele za rok będą generować materiały trudniejsze do wykrycia niż te, które skompromitowały hongkońską firmę w lutym. Pytanie nie brzmi, czy Twoja organizacja zostanie zaatakowana, ale czy jej procedury weryfikacji powstawały przed czy po listopadzie 2022 roku.”, “coverImageAlt”: “Ilustracja przedstawiająca holograficzną twarz generowaną przez AI z kodem w tle