Deepfake – jak nie dać się oszukać fałszywej rzeczywistości?

„To, co rzeczywiście jest, istnieje lub było”¹ – wszystko wskazuje na to, że pora doprecyzować słownikową definicję prawdy. W XXI wieku nawet oczywiste pojęcia tracą cechę niepodważalności. Prezydent, który publicznie, w niewybrednych słowach obraża głowę innego państwa, to bez wątpienia widok niewiarygodny. Jednak czemu nie wierzyć temu, co przedstawia realistyczny film? Trudno na przekór „dowodom” przekonać umysł, że rzeczywistość można prefabrykować. A jednak. Granicę między prawdą a kłamstwem przekracza deepfake. Co to takiego? Jak tworzy się deepfake i dlaczego przedsiębiorcy powinni się zainteresować tym tematem?

Czym jest deepfake?

Dzięki rozwojowi technologii możemy w każdej chwili kontaktować się z bliskimi na drugim końcu globu, prowadzić biznes bez wychodzenia z domu i porozumieć się z kontrahentami i klientami z każdego zakątka świata. Codziennością jest znajdowanie odpowiedzi na pytania w zaledwie kilka sekund. Zalet cyfryzacji można wymieniać dziesiątki. Niestety możliwości inżynieryjne i innowacje można wykorzystywać nie tylko w służbie człowiekowi i w dobrej intencji. Technologia deepfake jest tego świetnym przykładem.

Aplikacje do deepfake wykorzystują zaawansowane algorytmy uczenia maszynowego, zwłaszcza sieci neuronowe, aby rozpoznawać wzorce i kreować nowe treści imitujące autentyczne źródła. Najpopularniejsze przykłady deepfake to różnego rodzaju manipulacje wideo, w których generowane są nieautentyczne sceny z wykorzystaniem wizerunków prawdziwych osób. Aby stworzyć tego rodzaju manipulację, wystarczą dane treningowe w postaci obrazów lub nagrań, na podstawie których algorytmy nauczą się imitować ruchy twarzy, ekspresje, gesty i kontekst.

Deepfake ma oczywiście ogromny potencjał kreatywny, ale niestety może mieć również bardzo negatywne skutki. Wykorzystywany w celach artystycznych, do tworzenia efektów specjalnych w filmach czy kreowania nowych doświadczeń wirtualnej rzeczywistości - wzbogaci dany materiał. Ale z drugiej strony można posłużyć się nim w manipulacji, sianiu dezinformacji, oszustwach, szantażach czy naruszeniach prywatności. Z uwagi na rosnące możliwości deepfake i jego potencjalne zagrożenia dla firm i marek, ważne jest świadome rozpoznawanie i zrozumienie tej technologii, a także rozwijanie narzędzi i strategii do wykrywania i ograniczania negatywnych skutków.

Początki deepfake'ów

Deepfake rozwinął się zaledwie kilka lat temu i wywołał niemałe poruszenie. Pierwsze eksperymenty z tą techniką pojawiły się ok. 2017 roku. W tym czasie za pomocą dostępnych narzędzi uczenia maszynowego i technik przetwarzania wideo zaczęto tworzyć realistyczne fałszywe treści wizualne, szczególnie skupiając się na zamianie twarzy na obrazach wideo. W Polsce początkowo manipulacje traktowano jako nowinkę i stosowano głównie w celach artystycznych i rozrywkowych. Jednak wraz z rozwojem technologii i łatwiejszym dostępem do narzędzi pojawiły się również obawy związane z potencjalnymi zagrożeniami deepfake'ów. 

W wielu krajach w mediach zaczęły pojawiać się filmiki o kontekście politycznym, publikowane w celu manipulacji lub szerzenia dezinformacji. Odkryto również przypadki wykorzystywania tej technologii do oszustw finansowych i wyłudzeń. W odpowiedzi na rosnące zagrożenie na całym świecie powstają inicjatywy badawcze, edukacyjne i technologiczne mające na celu wykrywanie, ograniczanie i uświadamianie w temacie deepfake.

Cele rozpowszechniania deepfake'ów

Deepfake może być przydatnym narzędziem w marketingu i reklamie i może pomóc np. kreować spoty ze znanymi osobistościami. Ma też potencjał w celach szkoleniowych i symulacyjnych. Przedsiębiorstwa mogą wykonywać symulacje sytuacji biznesowych, treningi dla pracowników lub szkolenia dotyczące umiejętności komunikacyjnych. Technika ta może pomóc w tworzeniu interaktywnych i realistycznych scenariuszy, które umożliwiają praktyczne uczenie się i doskonalenie umiejętności. 

Niestety częściej rozpowszechnianie deepfake'ów ma na celu obniżanie poziomu zaufania w społeczeństwie i dezinformację. W obliczu rosnącego zagrożenia związanego z tą technologią nie tylko przeciętni obywatele, ale i np. przedsiębiorstwa muszą być świadome i gotowe do reagowania na potencjalne negatywne skutki tej technologii. W kontekście firm i marek ochrona reputacji i wizerunku jest wyjątkowo istotna. 

Jak rozpoznać deepfake?

Powagę zagrożeń fałszywych informacji dostrzegają zarówno głowy państw, jak i właściciele firm o globalnym zasięgu. Facebook, chcąc jak najefektywniej przeciwdziałać manipulacjom, wprowadził specjalne oprogramowanie, które ma identyfikować materiały, które powstały z użyciem sztucznej inteligencji. Zespół naukowców Facebook AI Xi Yin oraz Tal Hassner przygotował technologię, która jest w stanie niejako „cofnąć” fałszywe pliki, by określić, w jaki sposób powstał materiał i czy jest nieautentyczny. To oczywiście bardzo zaawansowana metoda identyfikowania oszustw, ale istnieje też kilka prostych sposobów, które mogą się przydać w rozpoznawaniu potencjalnych deepfake'ów. 

Ważne jest, aby zachować ostrożność i krytyczne podejście do wideo i zdjęć, zwłaszcza jeśli są one viralowe lub pochodzą z nieznanych źródeł. Czasem w materiałach można zauważyć niezgodności i niespójności, np. nienaturalne ruchy twarzy, niedopasowanie oświetlenia lub tła, brak synchronizacji ruchu warg z wypowiadanymi słowami, lub niewłaściwe odwzorowanie reakcji emocjonalnych. Nie bez znaczenia są też kontekst i źródło – wiarygodne portale są już uwrażliwione na próby manipulacji i często – podobnie jak Facebook – dysponują narzędziami do zwalczania oszustw. Szansa na trafienie na deepfake na sprawdzonych stronach jest zdecydowanie mniejsza.

Czy deepfake stanowi realne zagrożenie dla firm?

Kilka lat temu opinię publiczną zszokowało nagranie, w którym Mark Zuckerberg (główny twórca serwisu Facebook) przyznaje, że kontroluje rzeczywistość i przyszłość, dysponując danymi skradzionymi od miliardów ludzi. Nagranie ma niemal 100 tys. wyświetleń w serwisie YouTube i było miliony razy udostępniane i rozpowszechniane. Łatwo sobie wyobrazić, jakie emocje można wzbudzić, mając do dyspozycji tego typu narzędzie i jaką potężną bronią mogą być. 

Chociaż aplikacje do deepfake sprawdzają się doskonale w marketingu i reklamie, to niestety mogą też służyć manipulowaniu wizerunkiem marki. Deepfake może być też wykorzystywany np. do podszywania się pod pracowników lub klientów w celu wyłudzenia poufnych informacji lub środków finansowych.

W 2019 roku „Wall Street Journal” poinformował o oszustwie w brytyjskiej firmie energetycznej. Przestępcy wykorzystali deepfake głosowy, by podszyć się pod dyrektora firmy i zlecić kierownikowi jednostki wykonanie przelewu dla kontrahenta w wysokości 220 tys. euro. Mimo drobiazgowego śledztwa nie udało się zidentyfikować sprawców ani odzyskać pieniędzy. To niestety pierwszy z wielu przykładów tego typu przestępstw…

Deepfake a cyberbezpieczeństwo

Do jednego z największych oszustw na dużą skalę z użyciem deepfake doszło w ubiegłym roku, kiedy to złodzieje podszyli się pod biznesmena z Emiratów Arabskich. Przestępcy posłużyli się próbką głosu i sfabrykowali rozmowę, by skłonić pracownika banku do zlecenia dyspozycji przelewu na 30 milionów dolarów. Niestety bankowiec nie zorientował się, że doszło do cyberprzestępstwa.

Cyberbezpieczeństwu zagrażają przede wszystkim:

• manipulacja informacjami – fałszywe nagrania wydają się autentyczne i łatwo o wprowadzanie w błąd na szeroką skalę. Brak zaufania do źródeł informacji może powodować poważne konsekwencje zarówno w kontekście politycznym, jak i biznesowym.
• Oszustwa i szantaż – sfałszowane fotografie mogą służyć do szerzenia plotek i wyłudzeń.
• Naruszenia prywatności – nieautentyczne materiały są tworzone i rozpowszechniane bez zgody, co stanowi poważne naruszenie prywatności i może prowadzić do szkód emocjonalnych, reputacyjnych i społecznych.
• Ataki na firmy i instytucje – podszywanie się pod pracowników firm może służyć pozyskiwaniu poufnych informacji i atakom phishingowym (np. zainfekowaniu komputera lub nakłonienia do udostępnienia danych wrażliwych).

Aby w erze deepfake zapewnić cyberbezpieczeństwo, konieczne są przede wszystkim stosowanie środków zaradczych, wprowadzenie odpowiednich regulacji prawnych i międzynarodowa współpraca w zakresie rozwoju technologii i wymiany informacji. Organizacje międzynarodowe, rządy, firmy technologiczne i społeczeństwo powinny działać razem, aby skutecznie przeciwdziałać temu zagrożeniu.

Jako przedsiębiorca możesz przede wszystkim skoncentrować się na:

• uświadamianiu i edukacji –  pracownicy i użytkownicy sieci powinni być świadomi potencjalnych zagrożeń, szkoleni w rozpoznawaniu deepfake'ów i uwrażliwieni na podejrzane treści.
• Wykrywaniu deepfake'ów – zaleca się stosowanie narzędzi i technologii służących do identyfikowania deepfake'ów i jak najszybsze reagowanie w przypadku zauważenia podejrzanych treści.
• Weryfikacji źródeł – nie powinno się ufać informacjom z niewiarygodnych źródeł. Przed rozpowszechnianiem treści zawsze należy się upewnić, skąd pochodzą.

Czy tworzenie i upublicznianie deepfake'ów jest legalne?

Legalność manipulacji typu deepfake można rozpatrywać w kilku kontekstach. W zakresie ochrony danych osobowych przepisy RODO (Rozporządzenie Ogólne o Ochronie Danych) mają zastosowanie do fałszywych treści tworzonych przez organizacje i firmy, które przetwarzają dane osobowe. Zgodnie z RODO twórca powinien uzyskać zgodę osoby, której danymi się posługuje. Jej brak może skutkować karą finansową, a osoba, której wizerunek został użyty, może żądać usunięcia materiału.

Wykorzystanie wizerunku osoby w deepfake'u może stanowić naruszenie dóbr osobistych i zapisów Kodeksu cywilnego, zwłaszcza jeśli celem jest ośmieszenie. Poszkodowany może żądać zaniechania działania, przeprosin od twórcy i zadośćuczynienia pieniężnego.

Ponadto przestępstwami zagrożonymi karami regulowanymi przez Kodeks karny są: kradzież tożsamości, utrwalanie wizerunku bez zgody lub rozpowszechnianie deepfake'ów mających na celu zniesławienie lub znieważenie.

Warto mieć na uwadze, że przepisy prawne mogą ulegać zmianom, a ich interpretacja może się różnić. Bez wątpienia nie powinno się jednak bagatelizować zagrożeń, a wszelkie podejrzane zachowania należy zgłaszać albo na policję, albo bezpośrednio do właściciela platformy, na której doszło do oszustwa. Nawet pozornie błahy żart może mieć poważne konsekwencje. 

¹  https://sjp.pwn.pl/slowniki/prawda.html