Mogą wpływać na wyniki wyborów, eskalować konflikty i podsycać niepokoje społeczne. Na Politechnice Krakowskiej trwają prace nad wykrywaczem deepfake’ów w treściach wideo, audio i obrazach. To nieprawdziwe informacje, które rozprzestrzeniają się wirusowo zazwyczaj poprzez media społecznościowe bądź kanały medialne niezbyt dbające o weryfikację źródeł informacji. Mogą być narzędziem cyberprzestępstw, a także politycznych i społecznych manipulacji. Mówi prof. Michał Bereta
Posłuchaj wypowiedzi
Zjawisko deepfake jest stosunkowo nowe – datowane na rok 2017, gdy użytkownik internetowego forum Reddit o nazwie “deepfakes” zapoczątkował niechlubny trend udostępniania filmów pornograficznych, w których zamiast twarzy aktorek umieszczano twarze znanych celebrytek. Do osiągnięcia tego efektu użyte zostały nowoczesne techniki oparte na sieciach neuronowych i metodach uczenia głębokiego. Już wcześniej, po zaproponowaniu w roku 2014 sieci GAN (Generative Adversarial Networks) czyli modeli będących w stanie generować nowe obrazy, pojawiły się niesamowite możliwości zastosowań sieci neuronowych w wirtualnych manipulacjach treściami. Sztandarowym przykładem była możliwość preparowania zdjęć ludzi, którzy nigdy nie istnieli (łatwy dostęp do serwisu z takimi zdjęciami, ułatwia np. tworzenie fałszywych kont w serwisach społecznościowych).
Mogą wpływać na wyniki wyborów, eskalować konflikty i podsycać niepokoje społeczne. Na Politechnice Krakowskiej trwają prace nad wykrywaczem deepfake’ów w treściach wideo, audio i obrazach. Projekt finansuje @NCBR_pl @RadioKrakow #nauka pic.twitter.com/Z7b52lk5Xv
— ewa szkurlat (@EwaSzkurlat) January 27, 2022
Dzięki środkom Narodowego Centrum Badań i Rozwoju powstanie automatyczny system do weryfikacji treści, z którego będą mogli korzystać m.in. pracownicy mediów, redakcje, agencje PR i inne podmioty, chroniące wizerunek swoich klientów i produktów, portale internetowe i społecznościowe, policja i inne służby zapewniające bezpieczeństwo, także organizacje pozarządowe i wszyscy zainteresowani sprawdzaniem wiarygodności treści. Wykrywacz może mieć formę prostego w obsłudze serwisu internetowego, który oceni dany materiał albo konkretny adres internetowy i wszystkie dostępne pod nim materiały graficzne, wideo i audio. Można też będzie stale monitorować dany adres internetowy albo - chroniąc konkretną osobę przed atakami typu deepfake.
Projekt badawczy „Detekcja zmanipulowanych treści audio-wideo w celu ochrony przed rozprzestrzenianiem wiadomości o charakterze deepfake” prowadzony jest w ramach konkursu „Infostrateg” Narodowego Centrum Badań i Rozwoju. Zespół z PK otrzymał na nie dofinansowanie w wysokości blisko 4 mln zł.
