Een video waarin aanhangers van D66 en de PVV demonstreren tegen elkaar, honderdduizenden views, terwijl dit nooit echt gebeurd is. De video is volledig gemaakt met Sora AI. Dit is een tekst-naar-video-app die super realistische video’s kan genereren op basis van simpele tekstprompts.

Volgens Teresa Wijkman, zijn deze AI-video’s nauwelijks te onderscheiden van echte beelden. Zij is universitair onderzoeker op het gebied van desinformatie en deepfakes. “Vroeger kostte het veel kennis en tijd om een deepfake te maken, met Sora AI gaat dit een stuk makkelijker en sneller.”  “Soms kloppen bijvoorbeeld de lipbewegingen niet helemaal, maar bij snel scrollen vallen die fouten nauwelijks op,” zegt ze. Daardoor bereiken zulke video’s makkelijk een groot aantal gebruikers.

Sora AI

Met Sora AI kunnen gebruikers binnen enkele minuten een video in elkaar zetten die met een snelle blik nauwelijks van echt te onderscheiden is. Hierdoor worden AI-video’s toegankelijk voor een veel breder publiek, en neppe politieke content kan sneller en gemakkelijker verspreid worden. “TikTok draait volledig om korte video’s, waardoor het platform ideaal is voor deze misleidende content.”

Hoewel het aantal Sora AI-video’s op tiktok rondom de politiek nog redelijk beperkt is, laten ze volgens Peter Burger, universitair docent Journalistiek en Nieuwe Media aan de Universiteit Leiden, door de vele reacties wel zien hoe groot hun mogelijke invloed kan zijn.

Invloed op vertrouwen en politieke perceptie

AI-nepvideo’s zouden het vertrouwen in politici en verkiezingen kunnen aantasten, vertelt Wijkman “Mensen kunnen sceptisch worden over elk beeld dat ze online zien. Zelfs als ze een video niet volledig geloven, blijft het visuele beeld hangen en beïnvloedt het hun perceptie van politici.”

“Onderzoek bevestigt dat visuele indrukken een langdurige impact kunnen hebben, ook als kijkers zich bewust zijn dat de video nep is. Vooral wanneer meerdere video’s een bepaald politiek beeld versterken, kan dit de manier waarop burgers partijen en kandidaten beoordelen beïnvloeden.” “Een visueel sterk beeld kan dus een blijvende indruk achterlaten en emoties oproepen, ook als mensen weten dat het mogelijk nep is.”

In andere landen, zoals Slowakije, hebben deepfakes mogelijk al invloed gehad op verkiezingsuitslagen. Of dit in Nederland gaat gebeuren, is dus nog de vraag. Volgens Teresa: “We moeten nog zien of ze dat echt kunnen. Het is onduidelijk of één video effect heeft. Vaak telt juist het totaal aan video’s dat samen burgers beïnvloedt. Daar is meer onderzoek voor nodig.”