Think Tank PE: deepfake’i mogą prowadzić do poważnych szkód na poziomie społecznym [RAPORT]

Think Tank Parlamentu Europejskiego opublikował na swojej stronie internetowej raport poświęcony technologii deepfake, czyli generowanym przy użyciu technik sztucznej inteligencji grafikom, tekstom, nagraniom audio i wideo, które są łudząco realistyczne. Treści te powstają często bez wiedzy osób, które ukazują i sugerują, że powiedziały lub zrobiły coś, co w rzeczywistości nie miało miejsca. Jak podkreślili autorzy raportu, technologia ta może być wykorzystywana do celów zarówno pozytywnych, jak i negatywnych. Wśród tych pierwszych wskazano m.in. usprawnienie produkcji, nieskrępowaną ekspresję artystyczną, satyrę, poprawę interakcji człowiek-maszyna oraz zastosowania badawcze.

Deepfake’i mogą mieć również złośliwy, oszukańczy, a nawet destrukcyjny charakter na poziomie indywidualnym, organizacyjnym i społecznym. Potencjalne zagrożenia można podzielić na trzy kategorie: psychologiczne, finansowe i społeczne. Po pierwsze, z uwagi na to, że deepfake’i są kierowane do indywidualnych osób, wywołują w grupie odbiorców bezpośrednie konsekwencje psychologiczne. Po drugie, nie ulega wątpliwości, że deepfake’i mogą być tworzone i rozpowszechniane z zamiarem wywołania szkód finansowych. Po trzecie zaś, istnieją poważne obawy co do nadrzędnych, społecznych konsekwencji zastosowania tej technologii.

analiza Think Tanku Parlamentu Europejskiego

Dodali, że wpływ pojedynczego deepfake’a nie ogranicza się do jednej kategorii ryzyka, ale ma charakter kaskadowy i obejmuje wiele poziomów.

Deepfake’i obierają jako cel indywidualne osoby, więc ich oddziaływanie zaczyna się na poziomie jednostki. Mogą też zaszkodzić określonej grupie lub organizacji. Poza tym skumulowany efekt deepfake’a może prowadzić do poważnych szkód na poziomie społecznym. Zmanipulowany może zostać np. dowód w sprawie lub oświadczenie, które ma w pożądany sposób wpłynąć na proces polityczny.

analiza Think Tanku Parlamentu Europejskiego

W analizie wskazano, że przepisy prawne regulujące kwestię deepfake’ów obejmują złożoną sieć norm konstytucyjnych, a także twarde i miękkie regulacje zarówno na poziomie UE, jak i państw członkowskich. Wśród najważniejszych regulacji na poziomie europejskim wymieniono ogólne rozporządzenie o ochronie danych, ramy UE dotyczące sztucznej inteligencji, prawo autorskie, dyrektywę o handlu elektronicznym, ustawę o usługach cyfrowych, dyrektywę o audiowizualnych usługach medialnych, kodeks postępowania w zakresie zwalczania dezinformacji oraz Europejski plan działania na rzecz demokracji.

PE konsekwentnie angażuje się w ochronę demokratycznych wyborów przed manipulacjami oraz w walkę z niepożądanymi konsekwencjami wykorzystywania sztucznej inteligencji. W rezolucji z 2017 r. Parlament wezwał Komisję Europejską do przyjęcia twardych regulacji mających na celu radzenie sobie z fake newsami, takich jak nowelizacja dyrektywy o handlu elektronicznym. W przyjętej w maju 2018 r. rezolucji ws. pluralizmu mediów i wolności mediów w UE zawarto dodatkowe propozycje niezwiązane bezpośrednio z deepfake’ami, ale bardzo istotne w dyskusji o nich.

analiza Think Tanku Parlamentu Europejskiego

Chodziło m.in. o pełną przejrzystość korzystania z algorytmów, sztucznej inteligencji, zautomatyzowane podejmowanie decyzji dotyczących blokowania, filtrowania i usuwania treści internetowych, a także umożliwienie użytkownikom zgłaszania potencjalnej dezinformacji.

Eksperci zwrócili uwagę, że konkretne wzmianki o deepfake’ach można znaleźć w różnych stanowiskach Parlamentu, m.in. w rezolucji z lutego 2019 r. wzywającej Komisję do wprowadzenia wymogu oznakowania dla producentów materiałów typu deepfake.

Propozycja ta znalazła się w wielu dokumentach. W rezolucji z 2020 r. ws. praw własności intelektualnej w dziedzinie rozwoju technologii sztucznej inteligencji Parlament podkreślił potrzebę zwiększenia świadomości i umiejętności korzystania z mediów w celu zwalczania możliwości manipulacji przez deepfake’i. Najbardziej wszechstronnym i najnowszym dokumentem dotyczącym dyskusji nt. deepfake’ów jest rezolucja z 19 maja 2021 r. ws. sztucznej inteligencji w sektorze edukacji i kultury oraz w sektorze audiowizualnym.

analiza Think Tanku Parlamentu Europejskiego

Wspomnieli także, że oprócz wspomnianych propozycji niniejszy dokument zawiera różne zalecenia perspektywiczne.

Obejmują one zwiększanie świadomości ryzyka deepfake’ów i poprawę umiejętności cyfrowych. Parlament wezwał również Komisję do wprowadzenia odpowiednich ram prawnych regulujących tworzenie, produkcję lub dystrybucję deepfake’ów dla negatywnych celów, zwiększenie przejrzystości treści wyświetlanych użytkownikom platform internetowych, zapewniając im w ten sposób większą swobodę podejmowania decyzji, czy i jakie informacje chcą otrzymywać.

analiza Think Tanku Parlamentu Europejskiego

Raport w języku angielskim

---

Źródło: PAP