Deepfake – jak nie dać się oszukać fałszywej rzeczywistości?

6 min

oko i oprawki okularów, w których szkle odbija się kod

„To, co rzeczywiście jest, istnieje lub było”1 – wszystko wskazuje na to, że pora doprecyzować słownikową definicję prawdy. W XXI wieku nawet oczywiste pojęcia tracą cechę niepodważalności. Prezydent, który publicznie, w niewybrednych słowach obraża głowę innego państwa, to bez wątpienia widok niewiarygodny. Jednak czemu nie wierzyć temu, co przedstawia realistyczny film? Trudno na przekór „dowodom” przekonać umysł, że rzeczywistość można prefabrykować. A jednak. Granicę między prawdą a kłamstwem przekracza deepfake. Co to takiego? Jak tworzy się deepfake i dlaczego przedsiębiorcy powinni się zainteresować tym tematem?

Czym jest deepfake?

Dzięki rozwojowi technologii możemy w każdej chwili kontaktować się z bliskimi na drugim końcu globu, prowadzić biznes bez wychodzenia z domu i porozumieć się z kontrahentami i klientami z każdego zakątka świata. Codziennością jest znajdowanie odpowiedzi na pytania w zaledwie kilka sekund. Zalet cyfryzacji można wymieniać dziesiątki. Niestety możliwości inżynieryjne i innowacje można wykorzystywać nie tylko w służbie człowiekowi i w dobrej intencji. Technologia deepfake jest tego świetnym przykładem.

Deepfake najprościej można zdefiniować jako technikę cyfrowej manipulacji multimediów, która wykorzystuje sztuczną inteligencję do tworzenia fałszywych treści wizualnych lub dźwiękowych, które do złudzenia przypominają autentyczne. 

Aplikacje do deepfake wykorzystują zaawansowane algorytmy uczenia maszynowego, zwłaszcza sieci neuronowe, aby rozpoznawać wzorce i kreować nowe treści imitujące autentyczne źródła. Najpopularniejsze przykłady deepfake to różnego rodzaju manipulacje wideo, w których generowane są nieautentyczne sceny z wykorzystaniem wizerunków prawdziwych osób. Aby stworzyć tego rodzaju manipulację, wystarczą dane treningowe w postaci obrazów lub nagrań, na podstawie których algorytmy nauczą się imitować ruchy twarzy, ekspresje, gesty i kontekst.

Deepfake ma oczywiście ogromny potencjał kreatywny, ale niestety może mieć również bardzo negatywne skutki. Wykorzystywany w celach artystycznych, do tworzenia efektów specjalnych w filmach czy kreowania nowych doświadczeń wirtualnej rzeczywistości - wzbogaci dany materiał. Ale z drugiej strony można posłużyć się nim w manipulacji, sianiu dezinformacji, oszustwach, szantażach czy naruszeniach prywatności. Z uwagi na rosnące możliwości deepfake i jego potencjalne zagrożenia dla firm i marek, ważne jest świadome rozpoznawanie i zrozumienie tej technologii, a także rozwijanie narzędzi i strategii do wykrywania i ograniczania negatywnych skutków.

Początki deepfake'ów

Deepfake rozwinął się zaledwie kilka lat temu i wywołał niemałe poruszenie. Pierwsze eksperymenty z tą techniką pojawiły się ok. 2017 roku. W tym czasie za pomocą dostępnych narzędzi uczenia maszynowego i technik przetwarzania wideo zaczęto tworzyć realistyczne fałszywe treści wizualne, szczególnie skupiając się na zamianie twarzy na obrazach wideo. W Polsce początkowo manipulacje traktowano jako nowinkę i stosowano głównie w celach artystycznych i rozrywkowych. Jednak wraz z rozwojem technologii i łatwiejszym dostępem do narzędzi pojawiły się również obawy związane z potencjalnymi zagrożeniami deepfake'ów. 

W wielu krajach w mediach zaczęły pojawiać się filmiki o kontekście politycznym, publikowane w celu manipulacji lub szerzenia dezinformacji. Odkryto również przypadki wykorzystywania tej technologii do oszustw finansowych i wyłudzeń. W odpowiedzi na rosnące zagrożenie na całym świecie powstają inicjatywy badawcze, edukacyjne i technologiczne mające na celu wykrywanie, ograniczanie i uświadamianie w temacie deepfake.

Cele rozpowszechniania deepfake'ów

Deepfake może być przydatnym narzędziem w marketingu i reklamie i może pomóc np. kreować spoty ze znanymi osobistościami. Ma też potencjał w celach szkoleniowych i symulacyjnych. Przedsiębiorstwa mogą wykonywać symulacje sytuacji biznesowych, treningi dla pracowników lub szkolenia dotyczące umiejętności komunikacyjnych. Technika ta może pomóc w tworzeniu interaktywnych i realistycznych scenariuszy, które umożliwiają praktyczne uczenie się i doskonalenie umiejętności. 

Niestety częściej rozpowszechnianie deepfake'ów ma na celu obniżanie poziomu zaufania w społeczeństwie i dezinformację. W obliczu rosnącego zagrożenia związanego z tą technologią nie tylko przeciętni obywatele, ale i np. przedsiębiorstwa muszą być świadome i gotowe do reagowania na potencjalne negatywne skutki tej technologii. W kontekście firm i marek ochrona reputacji i wizerunku jest wyjątkowo istotna

Jak rozpoznać deepfake?

Powagę zagrożeń fałszywych informacji dostrzegają zarówno głowy państw, jak i właściciele firm o globalnym zasięgu. Facebook, chcąc jak najefektywniej przeciwdziałać manipulacjom, wprowadził specjalne oprogramowanie, które ma identyfikować materiały, które powstały z użyciem sztucznej inteligencji. Zespół naukowców Facebook AI Xi Yin oraz Tal Hassner przygotował technologię, która jest w stanie niejako „cofnąć” fałszywe pliki, by określić, w jaki sposób powstał materiał i czy jest nieautentyczny. To oczywiście bardzo zaawansowana metoda identyfikowania oszustw, ale istnieje też kilka prostych sposobów, które mogą się przydać w rozpoznawaniu potencjalnych deepfake'ów. 

Ważne jest, aby zachować ostrożność i krytyczne podejście do wideo i zdjęć, zwłaszcza jeśli są one viralowe lub pochodzą z nieznanych źródeł. Czasem w materiałach można zauważyć niezgodności i niespójności, np. nienaturalne ruchy twarzy, niedopasowanie oświetlenia lub tła, brak synchronizacji ruchu warg z wypowiadanymi słowami, lub niewłaściwe odwzorowanie reakcji emocjonalnych. Nie bez znaczenia są też kontekst i źródło – wiarygodne portale są już uwrażliwione na próby manipulacji i często – podobnie jak Facebook – dysponują narzędziami do zwalczania oszustw. Szansa na trafienie na deepfake na sprawdzonych stronach jest zdecydowanie mniejsza.

Jeśli chcesz mieć większą pewność odnośnie do autentyczności materiałów, możesz też skorzystać z ogólnodostępnych narzędzi i oprogramowań, które mogą pomóc w wykrywaniu fałszerstw. Niektóre z nich wykorzystują techniki uczenia maszynowego i analizę obrazu, np. www.deepware.ai. Bezpłatnie dostępna jest również platforma watchframebyframe.com do oglądania poklatkowego, która ułatwia dostrzeżenie nieprawidłowości w materiałach wideo.

Czy deepfake stanowi realne zagrożenie dla firm?

Kilka lat temu opinię publiczną zszokowało nagranie, w którym Mark Zuckerberg (główny twórca serwisu Facebook) przyznaje, że kontroluje rzeczywistość i przyszłość, dysponując danymi skradzionymi od miliardów ludzi. Nagranie ma niemal 100 tys. wyświetleń w serwisie YouTube i było miliony razy udostępniane i rozpowszechniane. Łatwo sobie wyobrazić, jakie emocje można wzbudzić, mając do dyspozycji tego typu narzędzie i jaką potężną bronią mogą być. 

Chociaż aplikacje do deepfake sprawdzają się doskonale w marketingu i reklamie, to niestety mogą też służyć manipulowaniu wizerunkiem marki. Deepfake może być też wykorzystywany np. do podszywania się pod pracowników lub klientów w celu wyłudzenia poufnych informacji lub środków finansowych.

W 2019 roku „Wall Street Journal” poinformował o oszustwie w brytyjskiej firmie energetycznej. Przestępcy wykorzystali deepfake głosowy, by podszyć się pod dyrektora firmy i zlecić kierownikowi jednostki wykonanie przelewu dla kontrahenta w wysokości 220 tys. euro. Mimo drobiazgowego śledztwa nie udało się zidentyfikować sprawców ani odzyskać pieniędzy. To niestety pierwszy z wielu przykładów tego typu przestępstw…

Deepfake a cyberbezpieczeństwo

Do jednego z największych oszustw na dużą skalę z użyciem deepfake doszło w ubiegłym roku, kiedy to złodzieje podszyli się pod biznesmena z Emiratów Arabskich. Przestępcy posłużyli się próbką głosu i sfabrykowali rozmowę, by skłonić pracownika banku do zlecenia dyspozycji przelewu na 30 milionów dolarów. Niestety bankowiec nie zorientował się, że doszło do cyberprzestępstwa.

Cyberbezpieczeństwu zagrażają przede wszystkim:

  • manipulacja informacjami – fałszywe nagrania wydają się autentyczne i łatwo o wprowadzanie w błąd na szeroką skalę. Brak zaufania do źródeł informacji może powodować poważne konsekwencje zarówno w kontekście politycznym, jak i biznesowym.
  • Oszustwa i szantaż – sfałszowane fotografie mogą służyć do szerzenia plotek i wyłudzeń.
  • Naruszenia prywatności – nieautentyczne materiały są tworzone i rozpowszechniane bez zgody, co stanowi poważne naruszenie prywatności i może prowadzić do szkód emocjonalnych, reputacyjnych i społecznych.
  • Ataki na firmy i instytucje – podszywanie się pod pracowników firm może służyć pozyskiwaniu poufnych informacji i atakom phishingowym (np. zainfekowaniu komputera lub nakłonienia do udostępnienia danych wrażliwych).

Aby w erze deepfake zapewnić cyberbezpieczeństwo, konieczne są przede wszystkim stosowanie środków zaradczych, wprowadzenie odpowiednich regulacji prawnych i międzynarodowa współpraca w zakresie rozwoju technologii i wymiany informacji. Organizacje międzynarodowe, rządy, firmy technologiczne i społeczeństwo powinny działać razem, aby skutecznie przeciwdziałać temu zagrożeniu.

Jako przedsiębiorca możesz przede wszystkim skoncentrować się na:

  • uświadamianiu i edukacji –  pracownicy i użytkownicy sieci powinni być świadomi potencjalnych zagrożeń, szkoleni w rozpoznawaniu deepfake'ów i uwrażliwieni na podejrzane treści.
  • Wykrywaniu deepfake'ów – zaleca się stosowanie narzędzi i technologii służących do identyfikowania deepfake'ów i jak najszybsze reagowanie w przypadku zauważenia podejrzanych treści.
  • Weryfikacji źródeł – nie powinno się ufać informacjom z niewiarygodnych źródeł. Przed rozpowszechnianiem treści zawsze należy się upewnić, skąd pochodzą.

Czy tworzenie i upublicznianie deepfake'ów jest legalne?

Legalność manipulacji typu deepfake można rozpatrywać w kilku kontekstach. W zakresie ochrony danych osobowych przepisy RODO (Rozporządzenie Ogólne o Ochronie Danych) mają zastosowanie do fałszywych treści tworzonych przez organizacje i firmy, które przetwarzają dane osobowe. Zgodnie z RODO twórca powinien uzyskać zgodę osoby, której danymi się posługuje. Jej brak może skutkować karą finansową, a osoba, której wizerunek został użyty, może żądać usunięcia materiału.

Wykorzystanie wizerunku osoby w deepfake'u może stanowić naruszenie dóbr osobistych i zapisów Kodeksu cywilnego, zwłaszcza jeśli celem jest ośmieszenie. Poszkodowany może żądać zaniechania działania, przeprosin od twórcy i zadośćuczynienia pieniężnego.

Ponadto przestępstwami zagrożonymi karami regulowanymi przez Kodeks karny są: kradzież tożsamości, utrwalanie wizerunku bez zgody lub rozpowszechnianie deepfake'ów mających na celu zniesławienie lub znieważenie.

Warto mieć na uwadze, że przepisy prawne mogą ulegać zmianom, a ich interpretacja może się różnić. Bez wątpienia nie powinno się jednak bagatelizować zagrożeń, a wszelkie podejrzane zachowania należy zgłaszać albo na policję, albo bezpośrednio do właściciela platformy, na której doszło do oszustwa. Nawet pozornie błahy żart może mieć poważne konsekwencje. 

1  https://sjp.pwn.pl/slowniki/prawda.html

Czy ten artykuł był przydatny?
średnia: 0 | 0 ocen

Przeglądaj tematy

  • #na startwięcej artykułów z tagiem:#na start
  • #bizneswięcej artykułów z tagiem:#biznes
  • #podatkiwięcej artykułów z tagiem:#podatki
  • #marketingwięcej artykułów z tagiem:#marketing
  • #prawowięcej artykułów z tagiem:#prawo
  • #strategiawięcej artykułów z tagiem:#strategia
  • #pracownicywięcej artykułów z tagiem:#pracownicy
  • #księgowośćwięcej artykułów z tagiem:#księgowość
  • #wideowięcej artykułów z tagiem:#wideo
  • #finansowaniewięcej artykułów z tagiem:#finansowanie
  • #ekowięcej artykułów z tagiem:#eko
  • #sprzedażwięcej artykułów z tagiem:#sprzedaż
  • #markawięcej artykułów z tagiem:#marka
  • #ESGwięcej artykułów z tagiem:#ESG
  • #pomysł na bizneswięcej artykułów z tagiem:#pomysł na biznes
  • #e-commercewięcej artykułów z tagiem:#e-commerce
  • #zmiany w prawiewięcej artykułów z tagiem:#zmiany w prawie
  • #internetwięcej artykułów z tagiem:#internet
  • #automatyzacjawięcej artykułów z tagiem:#automatyzacja
  • #wsparcie dla firmwięcej artykułów z tagiem:#wsparcie dla firm
  • #przewodnikwięcej artykułów z tagiem:#przewodnik
  • #AIwięcej artykułów z tagiem:#AI
  • #samodzielna księgowośćwięcej artykułów z tagiem:#samodzielna księgowość
  • #SEOwięcej artykułów z tagiem:#SEO
  • #leasingwięcej artykułów z tagiem:#leasing
  • #service designwięcej artykułów z tagiem:#service design
  • #instrukcjawięcej artykułów z tagiem:#instrukcja
  • #dokumentywięcej artykułów z tagiem:#dokumenty
  • #kredytwięcej artykułów z tagiem:#kredyt
  • #RODOwięcej artykułów z tagiem:#RODO
  • #ZUSwięcej artykułów z tagiem:#ZUS
  • #oszczędnościwięcej artykułów z tagiem:#oszczędności
  • #fakturywięcej artykułów z tagiem:#faktury
  • #dotacjewięcej artykułów z tagiem:#dotacje
  • #bankowośćwięcej artykułów z tagiem:#bankowość
  • #google analyticswięcej artykułów z tagiem:#google analytics
  • #ITwięcej artykułów z tagiem:#IT
  • #kontrahentwięcej artykułów z tagiem:#kontrahent
  • #media społecznościowewięcej artykułów z tagiem:#media społecznościowe
  • #ochrona środowiskawięcej artykułów z tagiem:#ochrona środowiska
  • #Polski Ładwięcej artykułów z tagiem:#Polski Ład
  • #umowywięcej artykułów z tagiem:#umowy
  • #analizawięcej artykułów z tagiem:#analiza
  • #ubezpieczeniewięcej artykułów z tagiem:#ubezpieczenie
  • #technologiewięcej artykułów z tagiem:#technologie
  • #faktoringwięcej artykułów z tagiem:#faktoring
  • #badaniewięcej artykułów z tagiem:#badanie
  • #długiwięcej artykułów z tagiem:#długi
  • #USwięcej artykułów z tagiem:#US
  • #wynagrodzeniawięcej artykułów z tagiem:#wynagrodzenia
  • #CEIDGwięcej artykułów z tagiem:#CEIDG
  • #inwestycjewięcej artykułów z tagiem:#inwestycje
  • #konkurencjawięcej artykułów z tagiem:#konkurencja
  • #urlopywięcej artykułów z tagiem:#urlopy
  • #webinarwięcej artykułów z tagiem:#webinar
  • #zdolność kredytowawięcej artykułów z tagiem:#zdolność kredytowa
  • #płynność finansowawięcej artykułów z tagiem:#płynność finansowa
  • #zakupywięcej artykułów z tagiem:#zakupy
  • #REGONwięcej artykułów z tagiem:#REGON
  • #kosztywięcej artykułów z tagiem:#koszty
  • #współpracawięcej artykułów z tagiem:#współpraca
  • #SEMwięcej artykułów z tagiem:#SEM
  • #gwarancjawięcej artykułów z tagiem:#gwarancja