A hamisított videó akkor is hat, ha tudjuk, hogy hamisított

Nincs olyan nap, hogy az ember valamilyen módon ne futna bele egy mesterséges intelligenciával készíttetett, deepfake videóba! Sokan – köztük a jogalkotók is – úgy vélik, ezekkel az a legnagyobb probléma, hogy az ember nem ismeri fel a hamisítványt, és így elhiszi a videók tartalmát, később pedig ez befolyásolja a döntéseit. Két angol kutató azonban nemrégiben másféle veszélyre hívta fel a figyelmet a Communications Psychology folyóiratban publikált kísérleteinek eredményében.

A kutatók összesen több mint 650 alany segítségével három kísérletet végeztek el. A kísérletek során az alanyok egy-egy videót néztek meg, amelyekben az volt a közös: egy kitalált személy bevallja, hogy valamilyen vétséget, hibát követett el. Az elsőben és a másodikban egy kitalált politikus bevallja, hogy kenőpénzt fogadott el, a harmadikban pedig egy vegán influenszer bevallja, hogy húst evett.

Mindegyik videóból készült egy valós változat, valódi helyen, színész segítségével, illetve készült egy-egy deepfake változat is, hajszálpontosan azonos környezetben és szöveggel. Készítettek kontrollként egy-egy olyan felvételt is, amelyben ugyan elmondja a színész a megadott szövegét, ám a felvétel egyéb zajai, zörejei miatt egyáltalán nem lehet érteni, mit mond. Ezzel azt tudták kiszűrni, hogy valóban a hallott vallomás alapján ítélkezik az ember, nem csupán azért, mert mutattak neki valamilyen, értelmezhetetlen videót.

A résztvevők egy részének csak megmutattak egy videót, de nem jött ehhez semmilyen figyelmeztetés, egy másik részük általános információként kaptak olyat, hogy vigyázzanak, mert léteznek deepfake videók is. A harmadik részüknek pedig elmondták a konkrét bemutatott videó előtt, hogy ez az adott felvétel egy deepfake.

Minden egyes videót követően két kérdésre kellett felelnie az alanynak: vajon bűnös-e a videóban látott személy, valóban elkövette-e a bevallott tettet, illetve arra, hogy valódi vagy hamisítvány volt-e a videó. Mindkét választ egy 1-től 7-ig terjedő valószínűségi skálán kellett megadnia az alanynak. Ezt követően meg is kellett indokolniuk, miért válaszoltak a megadott módon.

A válaszok kiértékeléséből kiderült, hogy ugyan csökkentette a deepfake videók esetében a szereplő megítélését, ha tudták az alanyok, hogy hamisítványt láttak, ám nem szüntette meg. Az alanyok átlag fele akkor is bűnösnek ítélte a videón látott személyt, ha tudta, hogy a videó hamis! Még azok közt, akik megértették és elfogadták, hogy hamis videót láttak, voltak, akik még így is kijelentették, bűnös volt a látott személy. Magyarul, a látottak mindezek ellenére befolyásolták a döntést.

Érdekes módon abban a helyzetben, amikor csak általánosan felhívták a videót néző alanyok figyelmét, hogy létezik deepfake is, bár nem nőtt az adott videót hamisnak ítélők aránya, mégis kevesebben nevezték bűnösnek a szereplőket. Ez azt jelzi, hogy az emberek videós bizonyítékokba vetett bizalma csökken.

Az eredmények alapján sajnos az ember ítéletalkotását nem lehet egy egyszerű figyelmeztetéssel kikapcsolni. A látott tartalom akkor is dolgozik bennünk, akkor is hat ránk, ha tudjuk, hogy amit láttunk, nem a valóság. Bár van hasznuk a figyelmeztetéseknek, de nem jelentenek megoldást a deepfake videókkal szemben. A deepfake technológia társadalmi kockázata nemcsak technikai, hanem mélyen gyökerezően pszichológiai természetű.

Az eredmények alapján nem megfelelő, nem elégséges az európai szabályozás, vagyis az, hogy jelenleg a mesterséges intelligenciával létrehozott tartalmakat meg kell jelölni. Ez különösen akkor jelent problémát, ha valakit politikai lejáratókampányban céloznak meg hamis videókkal, illetve jogi eljárásokban is gondot jelenthet – hiszen láttuk az eredmények szerint, hogy ennek ellenére is befolyással van a videó tartalma az emberek felére.