Czym jest deepfake?

Deepfake to technologia wykorzystująca sztuczną inteligencję do tworzenia lub modyfikowania materiałów audio i video w taki sposób, aby wyglądały jak autentyczne. Najczęściej deepfake polega na: podmianie twarzy, imitowaniu głosu, generowaniu fałszywych nagrań, albo tworzeniu realistycznych zdjęć osób, które nigdy nie istniały. Rozwój generatywnej AI sprawił, że tworzenie takich materiałów stało się dostępne praktycznie dla każdego użytkownika internetu.

Czy deepfake jest legalny?

Sama technologia deepfake nie jest zakazana. Problem pojawia się jednak wtedy, gdy dochodzi do: naruszenia wizerunku, podszywania się pod inną osobę, oszustwa, naruszenia dóbr osobistych, wykorzystania danych osobowych, albo publikowania fałszywych treści bez zgody zainteresowanego. W praktyce legalność zależy więc od celu wykorzystania materiału. Przykładowo: satyryczny lub wyraźnie oznaczony materiał humorystyczny może być legalny, ale wykorzystanie czyjegoś wizerunku do oszustwa lub manipulacji może prowadzić do odpowiedzialności cywilnej, a nawet karnej.

Kradzież wizerunku – co mówi prawo?

Wizerunek człowieka podlega ochronie prawnej. Co do zasady rozpowszechnianie wizerunku wymaga zgody osoby przedstawionej na zdjęciu lub nagraniu. Naruszenie może polegać m.in. na: publikacji zdjęcia bez zgody, wykorzystaniu twarzy do reklamy, tworzeniu fałszywych materiałów AI, podszywaniu się pod inną osobę, lub publikowaniu zmanipulowanych nagrań. W przypadku deepfake problem staje się jeszcze poważniejszy, ponieważ sztuczna inteligencja może tworzyć materiały wyglądające bardzo realistycznie. Coraz częściej mówi się również o ochronie głosu jako elementu tożsamości i dóbr osobistych człowieka. Nowoczesne narzędzia AI potrafią dziś odtworzyć głos na podstawie krótkiej próbki nagrania. Powoduje to coraz większe ryzyko: oszustw telefonicznych, podszywania się pod członków rodziny, fałszywych poleceń finansowych, oraz manipulowania nagraniami audio. W praktyce firmy i osoby prywatne coraz częściej stają się ofiarami tzw. voice scamów opartych na AI.

Jakie przepisy mogą chronić ofiarę deepfake?

W zależności od sytuacji zastosowanie mogą mieć: przepisy o ochronie dóbr osobistych, przepisy dotyczące ochrony wizerunku, RODO, przepisy prawa autorskiego, a nawet przepisy karne. Osoba poszkodowana może domagać się m.in.: usunięcia materiałów, przeprosin, odszkodowania, zadośćuczynienia, oraz zaprzestania dalszych naruszeń. Jeżeli deepfake został wykorzystany do oszustwa lub wyłudzenia, sprawa może mieć również charakter karny.

Deepfake a RODO

W wielu przypadkach deepfake wiąże się również z przetwarzaniem danych osobowych. Wizerunek, głos czy nagrania video mogą stanowić dane osobowe, jeżeli pozwalają zidentyfikować konkretną osobę. Oznacza to, że tworzenie lub rozpowszechnianie materiałów AI może podlegać również przepisom RODO. Największe ryzyko pojawia się wtedy, gdy: dane zostały wykorzystane bez zgody, materiały generowane są automatycznie, dochodzi do profilowania, albo dane trafiają do zewnętrznych narzędzi AI.

Deepfake w firmach – nowe ryzyko dla biznesu Problem deepfake coraz częściej dotyczy również przedsiębiorców. Firmy mierzą się dziś m.in. z: fałszywymi nagraniami zarządu, próbami wyłudzeń finansowych, podszywaniem się pod pracowników, oraz cyberatakami wykorzystującymi AI. Szczególnie niebezpieczne są sytuacje, w których cyberprzestępcy wykorzystują wygenerowany głos prezesa lub dyrektora do wydawania fałszywych poleceń finansowych. Wraz z rozwojem generatywnej AI liczba takich zagrożeń prawdopodobnie będzie rosła.

Jak chronić się przed deepfake?

Najważniejsze znaczenie ma dziś szybka reakcja i odpowiednie zabezpieczenie swoich danych oraz wizerunku. W praktyce warto: ograniczać publikowanie nagrań i materiałów audio, zachować ostrożność wobec nietypowych poleceń finansowych, wdrożyć dodatkowe procedury bezpieczeństwa w firmie, regularnie monitorować wykorzystanie swojego wizerunku w internecie, oraz szybko reagować na naruszenia. W przypadku wykrycia deepfake warto zabezpieczyć dowody, zgłosić naruszenie platformie internetowej i skonsultować się z prawnikiem.

Czy AI Act wpłynie na deepfake?

Tak. Unijny AI Act przewiduje obowiązki dotyczące oznaczania treści generowanych przez sztuczną inteligencję. Celem nowych regulacji jest ograniczenie manipulacji oraz zwiększenie przejrzystości materiałów tworzonych przy pomocy AI. W praktyce może to oznaczać obowiązek informowania użytkowników, że: obraz, nagranie, lub głos zostały wygenerowane albo zmodyfikowane przez sztuczną inteligencję.