Technologie sztucznej inteligencji dynamicznie się rozwijają, a jednym z najbardziej imponujących (i jednocześnie niepokojących) zastosowań jest deepfake. Technologia ta jest w stanie tworzyć…Czytaj więcej
Technologie sztucznej inteligencji dynamicznie się rozwijają, a jednym z najbardziej imponujących (i jednocześnie niepokojących) zastosowań jest deepfake . Technologia ta pozwala tworzyć hiperrealistyczne, fałszywe filmy, obrazy, a nawet nagrania audio, w których dana osoba mówi lub robi rzeczy, które nigdy nie miały miejsca. Deepfake'i coraz częściej pojawiają się w wiadomościach, mediach społecznościowych, a nawet na miejscach zbrodni. W tym artykule szczegółowo omówimy, czym jest deepfake, jak działa, jakie niesie ze sobą zagrożenia i jak nauczyć się go rozpoznawać.
Czym jest deepfake?
Słowo „deepfake” pochodzi od słów „deep learning” i „fake”. To technologia syntezy treści multimedialnych za pomocą algorytmów sztucznej inteligencji, najczęściej sieci neuronowych. Głównym celem jest zastąpienie twarzy jednej osoby inną w filmie lub stworzenie całkowicie sztucznej mowy, która naśladuje jej głos i intonację.
Deepfake'i początkowo były hobby dla entuzjastów: zastępowaniem aktorów w filmach i tworzeniem filmów z twarzami celebrytów. Jednak w ciągu kilku lat technologia ta zaczęła być wykorzystywana w polityce, oszustwach i wojnie informacyjnej.
Jak działa deepfake?
Większość deepfake'ów opiera się na głębokich sieciach neuronowych , w szczególności na architekturach takich jak GAN (Generative Adversarial Networks) .
Zasada działania jest następująca:
Zbieranie danych szkoleniowych.
Algorytmowi przekazywane są setki lub tysiące obrazów lub nagrań wideo przedstawiających twarz docelowej osoby, aby „nauczyć się” cech jej mimiki, ruchów, kątów i oświetlenia.
Generowanie podróbek.
Sieć generatorów próbuje stworzyć fałszywy obraz/wideo imitujące twarz osoby docelowej. Sieć dyskryminatorów „ocenia” jakość fałszywego obrazu i przekazuje informację zwrotną.
Ciągła nauka.
W miarę powtarzania kolejnych iteracji deepfake staje się coraz bardziej realistyczny — aż do momentu, w którym bez specjalistycznej analizy nie da się odróżnić podróbki od oryginału.
W przypadku dźwięku stosuje się podobne podejście, ale zamiast danych wizualnych, analizuje się i syntetyzuje fale dźwiękowe i intonacje.
⚠ Jakie niebezpieczeństwo niosą ze sobą deepfake'i?
Choć deepfake’i można wykorzystywać w celach rozrywkowych (np. w filmach z Nicolasem Cage’em grającym wszystkie postacie z Władcy Pierścieni), ich potencjalne szkody są o wiele poważniejsze:
1. Oszustwo
Przestępcy wykorzystują fałszywe nagrania wideo i audio, aby przekonać ofiary, że sytuacja jest „prawdziwa”. Znane są już przypadki, gdy dyrektorzy firm, oszukani przez fałszywe głosy swoich szefów, otrzymywali miliony dolarów w przelewach bankowych.
2. Dyskredytowanie i szantażowanie
Fałszywe, kompromitujące nagrania wideo mogą być wykorzystywane do szantażu osób publicznych, polityków i biznesmenów.
3. Dezinformacja
W trakcie wyborów lub kryzysów politycznych deepfake’i mogą być wykorzystywane do tworzenia fałszywych informacji na rzecz polityków, podważania zaufania i manipulowania opinią publiczną.
4. Zastąpienie prawdy historycznej
W przyszłości deepfake’i mogą stać się narzędziem fałszowania materiałów archiwalnych i tworzenia „alternatywnych” wersji wydarzeń.
Jak rozpoznać deepfake?
Współczesne podróbki stają się coraz bardziej realistyczne, ale nadal można rozpoznać pewne oznaki fałszerstwa:
1. Zaburzenia mimiki twarzy i mrugania
Twarz może zachowywać się „nienaturalnie”: mruganie następuje rzadko lub z opóźnieniem, usta nie są w pełni zgodne z mową, mimika twarzy wydaje się „plastyczna”.
2. Granice twarzy
Podczas zastępowania twarzy, artefakty często pojawiają się na krawędziach głowy lub szyi, zwłaszcza podczas obracania. Uszy, włosy i tło również mogą być zniekształcone.
3. Nienaturalne oświetlenie
Oświetlenie twarzy może nie odpowiadać ogólnemu oświetleniu sceny, szczególnie w trudnych warunkach oświetleniowych.
4. Zniekształcenie ruchu
Szybkie obroty głowy, ruchy rąk i ciała mogą powodować pikselizację, rozmycie lub zniekształcenie obrazu.
5. Niestabilność tła
Tło za sztuczną twarzą może „drżeć” lub zmieniać fakturę, gdy głowa się porusza – jest to wyraźny znak, że używana jest maska sieci neuronowej.
Technologie wykrywania deepfake’ów
Wraz z rozwojem zagrożeń ewoluują również zabezpieczenia. Istnieją technologie zaprojektowane specjalnie do wykrywania deepfake’ów:
-
Deepware Scanner to aplikacja służąca do analizowania filmów pod kątem podszywania się z wykorzystaniem sztucznej inteligencji.
-
Microsoft Video Authenticator to narzędzie, które szacuje prawdopodobieństwo edycji filmu.
-
Reality Defender to system skanujący media w poszukiwaniu śladów sieci GAN.
-
Projekty Google i DARPA opracowują również algorytmy umożliwiające wykrywanie deepfake’ów w czasie rzeczywistym.
W przyszłości tego typu narzędzia mogą stać się standardem w weryfikacji wiadomości i treści wideo.
Jak chronić się przed deepfake’ami?
-
Sprawdź swoje źródła. Ufaj tylko sprawdzonym mediom i rzetelnym informacjom.
-
Korzystaj z analizatorów. Podejrzane filmy i zdjęcia można sprawdzić za pomocą internetowych usług analizy deepfake.
-
Nie spiesz się z udostępnianiem. Nawet jeśli film wygląda przekonująco, daj sobie czas na jego obejrzenie.
-
Naucz swoich bliskich higieny cyfrowej, zwłaszcza osoby starsze, które mogą być mniej wrażliwe na fałszywe treści.
-
Zachowaj prywatność. Im mniej osobistych informacji i zdjęć udostępnisz publicznie, tym mniejsze ryzyko, że staniesz się ofiarą deepfake'a.
Deepfake'i to przykład tego, jak technologia może być jednocześnie genialna i niebezpieczna. Stały się już wyzwaniem dla bezpieczeństwa informacji, dziennikarstwa i zaufania publicznego. Chociaż technologie generacji wyprzedzają narzędzia do wykrywania, krytyczne myślenie i kompetencje cyfrowe stanowią naszą podstawową linię obrony.
Przyszłość niesie ze sobą zarówno nowe możliwości, jak i nowe zagrożenia. Im lepiej zrozumiemy, jak działają deepfake'i, tym większe będą nasze szanse na utrzymanie zaufania do rzeczywistości.