OpenAI znakuje treści AI — weryfikacja jednym kliknięciem
- OpenAI uruchomił narzędzie do weryfikacji treści generowanych przez AI, oparte na standardzie Content Credentials i technologii SynthID od Google DeepMind.
- System osadza niewidoczne metadane w obrazach, wideo i audio, które można odczytać bez specjalistycznego oprogramowania.
- Inicjatywa wpisuje się w rosnącą presję regulacyjną na platformy AI, by ujawniały pochodzenie syntetycznych mediów.
OpenAI wdrożył narzędzie do weryfikacji proweniencji treści AI, łącząc własny standard Content Credentials z SynthID opracowanym przez Google DeepMind — i udostępnił je publicznie jako darmowy serwis weryfikacyjny.
Jak działa znakowanie treści
Content Credentials to standard opracowany przez Coalition for Content Provenance & Authenticity (C2PA), do której należą Adobe, Microsoft, BBC i kilkadziesiąt innych firm. OpenAI osadza metadane bezpośrednio w pliku — obrazie, klipie wideo lub nagraniu audio — rejestrując informacje o tym, który model je wygenerował i kiedy. SynthID od Google działa inaczej: zamiast metadanych zewnętrznych używa niewidocznych watermarków zakodowanych w strukturze pikseli lub fal dźwiękowych, trudniejszych do usunięcia niż klasyczny EXIF.
Nowe narzędzie weryfikacyjne OpenAI pozwala wrzucić dowolny plik i w kilka sekund sprawdzić, czy nosi ślady któregoś z tych systemów. Nie wymaga konta ani instalacji.
Czy to rzeczywiście zadziała na deepfake’i?
Tu zaczynają się schody. Żaden z tych systemów nie jest kuloodporny. Zapis w metadanych ginie po zrobieniu screenshota lub re-encodingu wideo — operacjach, które każdy deepfake-twórca wykona jako pierwszy krok. SynthID jest odporniejszy na kompresję i przycięcie, ale MIT w 2024 roku pokazał, że można go usunąć atakiem adwersarialnym przy zachowaniu akceptowalnej jakości obrazu.
Prawdziwy problem jest jednak gdzie indziej. Znakowanie działa wyłącznie na treści wychodzące z systemów, które je implementują. Modele open source — Stable Diffusion, Flux, dziesiątki lokalnych forków — nie mają i nie będą miały przymusowego znakowania. Osoba generująca deepfake’i na lokalnym GPU nie zostawi żadnego śladu w żadnym rejestrze.
OpenAI nie jest tu sam
Meta osadza watermarki w Imagine AI od listopada 2023. Adobe Firefly domyślnie dodaje Content Credentials do każdego eksportowanego pliku. TikTok i YouTube zaczęły wymagać od twórców ujawniania treści generowanych przez AI — choć egzekwowanie tego regulaminu to inna historia.
Nieco inne podejście wybrał Truepic, który zamiast znakować output, certyfikuje input: aparat smartfona rejestruje kryptograficzny dowód, że konkretne zdjęcie pochodzi z konkretnego urządzenia w konkretnym miejscu i czasie. To przydatniejsze w dziennikarstwie wojennym niż w walce z fejkowym wizerunkiem celebryty.
Presja regulacyjna przyspiesza te decyzje
Unijna ustawa AI Act nakłada na dostawców modeli generatywnych obowiązek technicznego znakowania treści syntetycznych — przepisy w tym zakresie wchodzą w życie w sierpniu 2026 roku. W USA nie ma jeszcze federalnej ustawy, ale kilkanaście stanów uchwaliło własne prawa dotyczące deepfake’ów wyborczych i pornograficznych.
Dla OpenAI wdrożenie Content Credentials to ruch wyprzedzający regulatorów o jakieś 18 miesięcy. Firma unika w ten sposób scenariusza, w którym przepisy wymuszają na niej droższe lub bardziej restrykcyjne rozwiązanie techniczne.
Co to realnie zmienia dla twórców
Jeśli generujesz treści DALL-E, Sora lub podobnymi narzędziami i publikujesz je komercyjnie, od teraz każdy — klient, redakcja, platforma — może sprawdzić proweniencję pliku bez pytania cię o słowo. To ułatwia życie tym, którzy uczciwie ujawniają użycie AI. Dla tych, którzy tego nie robią, narzędzie jest kolejnym argumentem w sporze o prawa autorskie lub naruszenie regulaminu platformy.
Serwis weryfikacyjny OpenAI obsługuje na razie obrazy i wideo; wsparcie dla audio ma pojawić się w kolejnym kwartale.
