W Internecie pojawia się coraz więcej nagrań, które nigdy nie miały miejsca w rzeczywistości. Raporty firmy DeepMedia wskazują, że liczba deepfake'ów wideo wzrosła w samym 2023 roku trzykrotnie, a technologia tego typu staje się coraz tańsza i powszechniejsza. Co gorsze, najnowsze dane świadczą o przejściu technologii w fazę wzrostu wykładniczego. Szacuje się, że do końca 2025 roku liczba zmanipulowanych materiałów w sieci wzrośnie o 1500%, osiągając pułap 8 milionów plików.
Google postanowiło rzucić rękawicę temu zjawisku, wyposażając swojego asystenta Gemini w nową zdolność. Narzędzie potrafi teraz odpowiedzieć na dręczące wielu pytanie... czy to, co oglądasz na ekranie, zostało wygenerowane przez sztuczną inteligencję.
Rozwiązanie, choć niezbędne, w obecnej wersji jest dziurawe i zbyt mocno ufa uczciwości twórców - jego skuteczność opiera się na założeniu, że twórcy fałszywych treści będą grać uczciwie. Mimo to, mamy do czynienia z krokiem w dobrą stronę, jednak entuzjazm warto nieco ostudzić.
Nowa funkcja asystenta w walce z dezinformacją
Mechanizm, który Google wprowadza do swojej aplikacji Gemini, ma pomóc użytkownikom w weryfikacji pochodzenia treści wideo. Funkcja wykorzystuje standard C2PA (Coalition for Content Provenance and Authenticity), który można nazwać cyfrowym rodowodem pliku.
Standard C2PA wspierają najwięksi gracze technologiczni, w tym Adobe, Microsoft czy właśnie Google. Plik opatrzony takim znacznikiem niesie ze sobą informację o tym, w jaki sposób powstał – czy wyszedł z kamery, czy z procesora karty graficznej. Gdy uruchomisz nakładkę Gemini na wideo, na przykład w serwisie YouTube, możesz zapytać bota o wiarygodność nagrania. System przeanalizuje dostępne dane i wyświetli komunikat o pochodzeniu materiału, jeśli wykryje sygnaturę AI.
Google stara się tym ruchem uspokoić użytkowników i dać im oręż do walki z falą fake newsów. Problem deepfake'ów przestał być domeną polityki, a wkroczył do codziennego życia, obejmując także wszelkiego rodzaju oszustwa. Posiadanie pod ręką asystenta, który jednym zdaniem wyjaśni genezę oglądanego klipu, wydaje się rozwiązaniem idealnym. Sprawdzasz podejrzane wideo, otrzymujesz odpowiedź, zamykasz temat. Tak wygląda to w teorii oraz w komunikatach prasowych giganta z Mountain View. Praktyka pokazuje znacznie bardziej skomplikowany obraz.
Wykrywanie tylko dla uczciwych
Głównym problemem opisywanej nowości jest jej zależność od wspomnianych metadanych C2PA. Gemini nie dokonuje magicznej analizy pikseli, nie szuka nienaturalnych ruchów warg ani dziwnych artefaktów graficznych, które często zdradzają twory sztucznej inteligencji. Narzędzie sprawdza jedynie, czy w pliku znajduje się "metka" informująca o sztucznym pochodzeniu. Sytuacja przypomina więc kontrolę biletów, gdzie kontroler ufa pasażerowi na słowo, że ten bilet posiada, ale go nie sprawdza, dopóki pasażer sam go nie pokaże. Jeśli twórca wideo usunie metadane, co jest dziecinnie proste i często dzieje się automatycznie podczas przesyłania plików przez komunikatory – Gemini stanie się bezradne.
Rozwiązanie to zadziała świetnie w przypadku narzędzi, które automatycznie i trwale oznaczają swoje dzieła, jak najnowsze generatory wideo od OpenAI czy Google. Osoby tworzące treści rozrywkowe, nie mające na celu nikogo oszukać, zazwyczaj zostawiają takie znaczniki.
Prawdziwe zagrożenie płynie ze strony podmiotów, które celowo chcą wprowadzić widza w błąd. Trudno oczekiwać, że oszust tworzący deepfake z wizerunkiem znanego polityka czy prezesa banku zostawi w pliku cyfrowy podpis, że to wideo wygenerował komputer. Sprawcy dezinformacji zrobią wszystko, by takie ślady zatrzeć. Tutaj pojawia się owa ironia całej sytuacji – system mający chronić przed manipulacją działa najlepiej na treściach, które manipulacją nie są.
Kiedy technologia zawodzi oczekiwania
Brak metadanych to nie jedyna przeszkoda. Wiele popularnych generatorów wideo starszej generacji lub tych otwarto-źródłowych wcale nie implementuje standardu C2PA. Użytkownik korzystający z Gemini może więc trafić na film, który jest w stu procentach sztuczny, ale asystent nie ostrzeże go przed tym, ponieważ nie znajdzie odpowiedniego wpisu w kodzie pliku.
Może to prowadzić do mylnego poczucia bezpieczeństwa. Widz, nie otrzymując ostrzeżenia od Google, może uznać nagranie za autentyczne, co w pewnych sytuacjach bywa groźniejsze niż brak jakiejkolwiek weryfikacji. Nadmierne zaufanie do AI bywa zgubne, zwłaszcza gdy algorytmy opierają się na danych, które łatwo sfałszować lub usunąć.
Warto również zauważyć, że metadane potrafią zniknąć w prozaicznych okolicznościach. Wystarczy nagrać ekran z odtwarzanym filmem, zrobić zrzut wideo inną aplikacją lub wielokrotnie przekonwertować plik, aby informacje C2PA wyparowały. W takich momentach "genialne" rozwiązanie Google staje się kompletnie nieużyteczne.
Mamy więc narzędzie, które działa warunkowo i w bardzo sterylnym środowisku cyfrowym, którego w prawdziwym, chaotycznym Internecie ze świecą szukać. Przypomina to montowanie alarmu antywłamaniowego, który reaguje tylko wtedy, gdy złodziej wchodzi głównymi drzwiami, wcześniej dzwoniąc dzwonkiem.
Sposób użycia funkcji na co dzień
Sama obsługa nowej funkcji została zaprojektowana w sposób bardzo przystępny. Posiadacze telefonów z systemem Android, którzy korzystają z aplikacji Gemini jako swojego domyślnego asystenta, mogą wywołać weryfikację w kilku prostych krokach.
Podczas oglądania wideo na YouTube (lub innej wspieranej platformie), należy aktywować nakładkę Gemini – zazwyczaj poprzez długie przyciśnięcie przycisku zasilania lub wypowiedzenie frazy wywoławczej. Następnie wystarczy zapytać wprost... "czy to wideo jest prawdziwe" lub "jak powstało to nagranie". Wówczas bot przetworzy dostępne informacje i udzieli odpowiedzi, o ile znajdzie wspomniane wcześniej metadane.
Dostępność opcji wciąż jest ograniczona. Google wdraża ją stopniowo, zaczynając od użytkowników posługujących się językiem angielskim, ale plany zakładają globalną ekspansję. Interfejs reaguje płynnie, a odpowiedzi generowane są zazwyczaj błyskawicznie.
Firma z Mountain View wyraźnie stawia na integrację AI z codziennymi czynnościami, chcąc uczynić z Gemini uniwersalnego doradcę. Warto przetestować tę funkcję, gdy tylko pojawi się na twoim urządzeniu, choćby po to, by zobaczyć, jak wiele materiałów w sieci posiada (lub nie posiada) sygnatury C2PA.
Z funkcji możemy także skorzystać w "okienkowej" wersji aplikacji Gemini, wystarczy w oknie czatu wpisać magiczne "czy to wideo zostało stworzone przez AI".
Jednakże nie posiadając oryginalnego pliku (z metadanymi), niemalże na pewno otrzymamy błędną klasyfikację.
Dlaczego C2PA to wciąż ważny standard
Niedociągnięcia techniczne nie mogą rzucać cienia na samą ideę – C2PA to krok w stronę transparentności, którego wszyscy potrzebują dziś bardziej niż kiedykolwiek
Branża technologiczna musi wypracować wspólny język oznaczania treści generatywnych. Bez takiego porozumienia, każdy serwis musiałby tworzyć własne metody detekcji, co doprowadziłoby do kompletnego rozgardiaszu.
Fakt, że Google, Adobe i Microsoft grają do jednej bramki, daje nadzieję na przyszłość. Może z czasem standard ten stanie się wymogiem w popularnych mediach społecznościowych, a platformy automatycznie będą oznaczać lub blokować treści bez weryfikowalnego źródła.
Na obecnym etapie C2PA działa raczej jako deklaracja dobrych chęci niż szczelna tarcza. Budowanie świadomości użytkowników o istnieniu takich znaczników jest pierwszym krokiem.
Gdy w przyszłości zobaczysz przy wideo informację "wygenerowano przez AI" potwierdzoną cyfrowym podpisem, będziesz wiedzieć, z czym masz do czynienia. Obecne ograniczenia Gemini wynikają w dużej mierze ze wczesnego etapu adaptacji tej technologii. Nie należy jednak oczekiwać, że sama etykietka rozwiąże problem dezinformacji. Ludzka kreatywność w omijaniu zabezpieczeń zawsze wyprzedza systemy kontroli o kilka kroków.
Alternatywy dla niedoskonałego algorytmu
Nawet najbardziej zaawansowane algorytmy nie zastąpią ludzkiej intuicji. Zamiast ufać sztucznej inteligencji na słowo, warto przepuszczać jej odpowiedzi przez filtr własnej logiki.
Analiza źródła, z którego pochodzi wideo, sprawdzenie, czy inne wiarygodne media informują o danym zdarzeniu, oraz zwracanie uwagi na nielogiczne detale w obrazie wciąż pozostają najlepszymi metodami weryfikacji.
Żaden algorytm, nawet stworzony przez inżynierów Google, nie zastąpi sceptycyzmu widza. Jeśli nagranie wywołuje skrajne emocje, wydaje się nieprawdopodobne lub zbyt idealnie wpisuje się w czyjąś narrację polityczną, powinna zapalić się czerwona lampka.
Asystent AI może pełnić funkcję pomocniczą, swego rodzaju drugiego filtra, ale decyzyjność powinna zostać po stronie człowieka. Technologia weryfikacji obrazu będzie się rozwijać, zapewne pojawią się systemy analizujące samą treść wizualną, a nie tylko metadane, co znacznie zwiększy skuteczność wykrywania fałszerstw. Do tego czasu, widząc informację "nie wykryto AI", nie oddychaj z ulgą. Oznacza to jedynie, że plik nie ma podpisu, a nie, że jest autentyczny.
Przeczytaj także: Jak rozpoznać obrazy stworzone przez AI
Czy w ogóle warto korzystać z nowej opcji
Mimo wspomnianego dużego haczyka, czyli nieskuteczności w przypadku usuniętych metadanych, trzeba mieć świadomość istnienia tej funkcji w telefonie. Żyjemy w czasach, w których granica między rzeczywistością a fikcją zaciera się każdego dnia. Każde narzędzie, które pozwala choć trochę rozjaśnić mrok, jest przydatne, o ile znamy jego ograniczenia.
Google robi krok, który z czasem może okazać się istotny dla każdego. Zamiast śmiać się z niedoskonałości systemu, lepiej potraktować go jako wersję rozwojową – swoistą betę publiczną mechanizmu zaufania w sieci.
Więcej informacji: Google
