Nepvideo’s van late-night talkshowhost Jimmy Kimmel en andere presentatoren zoals Jon Stewart verspreiden zich in hoog tempo op sociale media. Deze met generatieve AI gemaakte deepfakes zijn in sommige opzichten makkelijker te produceren dan deepfakes van andere beroemdheden, en kunnen mogelijk meer schade aanrichten.
Belangrijke feiten
- Nepvideo’s van Jimmy Kimmel tonen hem schijnbaar commentaar geven op actuele politieke gebeurtenissen, terwijl hij in werkelijkheid op zomervakantie is van zijn ABC-show.
- Sommige van deze nepvideo’s halen honderdduizenden views op en krijgen reacties die erop wijzen dat kijkers de inhoud voor echt aanzien.
- Jed Rosenzweig, oprichter en redacteur van LateNighter.com, onderzoekt de opkomst van deze deepfakes.
- President Trump heeft herhaaldelijk opgeroepen Kimmel te ontslaan.
- ABC en de FCC voeren momenteel een juridische strijd over vrijheid van meningsuiting.
- ABC reageerde niet op een verzoek om commentaar van NPR.
Waarom mensen zo makkelijk worden misleid
Volgens Rosenzweig zijn late-night talkshowpresentatoren bijzonder kwetsbaar voor deepfakes, omdat het publiek de context waarin ze verschijnen automatisch vertrouwt. “Jimmy Kimmel gaat echt elke dag op televisie om over politiek te praten, en die clips worden dagelijks op sociale media geplaatst”, aldus Rosenzweig. “Als je een Kimmel-thumbnail ziet bij iets wat Trump gisteren deed, is er een ingebouwde context en vertrouwen die het als camouflage dient. Het hoeft er alleen maar uit te zien als nog een Kimmel-clip in een feed die al vol staat met Kimmel-clips.”
Rosenzweig wijst op herkenbare signalen dat de monologen niet authentiek zijn: de gebaren zijn vreemd, de tekst klinkt niet als een live monoloog, en na ongeveer tien seconden verdwijnt Kimmel uit beeld terwijl een gekloonde stem doorgaat over nieuwsbeelden. Toch reageren sommige kijkers alsof de inhoud echt is. Eén kijker schreef onder een YouTube-video: “Bedankt Jimmy dat je de waarheid spreekt.”
Bedreiging voor de vrije meningsuiting
Rosenzweig stelt dat de deepfakes van Jimmy Kimmel Live! extra zorgwekkend zijn vanwege de uitgesproken gespannen verhouding tussen Kimmel en de Trump-regering. Veel van de nepvideo’s bespotten of bekritiseren Trump. Rosenzweig waarschuwt dat dit de vastberadenheid van de regering kan versterken op een moment dat de Federal Communications Commission (FCC) en ABC verwikkeld zijn in een rechtszaak over vrijheid van meningsuiting. “ABC wordt elke avond onder de loep genomen voor wat Jimmy Kimmel zegt”, aldus Rosenzweig.
Makkelijker te maken dan andere deepfakes
AI-gegenereerde talkshowpresentatoren vormen als genre in sommige opzichten een grotere bedreiging dan deepfakes van bijvoorbeeld zangers of acteurs, omdat ze doorgaans eenvoudiger te produceren zijn. De vertrouwde context van een praatprogramma — een presentator achter een bureau die commentaar geeft op het nieuws — maakt het voor makers makkelijker om geloofwaardige nep-inhoud te genereren.
Veelgestelde vragen
Hoe kun je een AI-deepfake van Jimmy Kimmel herkennen?
Volgens onderzoeker Jed Rosenzweig zijn er duidelijke signalen: de gebaren van de presentator zijn onnatuurlijk, de tekst klinkt niet als een echte live monoloog, en na ongeveer tien seconden verdwijnt het beeld van de presentator terwijl een gekloonde stem verder praat over nieuwsbeelden.
Waarom zijn late-night presentatoren extra kwetsbaar voor deepfakes?
Omdat presentatoren als Jimmy Kimmel dagelijks politiek commentaar geven en hun clips regelmatig op sociale media verschijnen, past een nepvideo naadloos in de verwachtingen van het publiek. Die vertrouwde context maakt het moeilijker om nep van echt te onderscheiden.
Wat is het verband tussen deze deepfakes en de rechtszaak van ABC?
ABC en de FCC voeren een juridische strijd over vrijheid van meningsuiting. Rosenzweig stelt dat nepvideo’s die Kimmel Trump laten bekritiseren, de druk op ABC kunnen vergroten, omdat de zender al nauwlettend wordt gevolgd op wat Kimmel in zijn echte show zegt.
