Meta, moederbedrijf van Facebook, gaat een team samenstellen om desinformatie en misbruik van AI tegen te gaan. Dit doen zij in aanloop naar de verkiezingen voor het Europese parlement die tussen 6 en 9 juni plaatsvinden. Hoogleraar cyber security van de Open Universiteit, Harald Vranken, legt uit hoe AI kan worden ingezet om verkiezingen te verstoren en wat hier tegen gedaan kan worden.
Het team zal bestaan uit experts uit verschillende teams van het bedrijf. Zij richten zich op inlichtingen, datawetenschap, onderzoek, contentbeleid en juridische zaken. Het team focust zich op het tegengaan van desinformatie en pakt ‘beïnvloedingsoperaties’ aan, schrijft het EU-hoofd van Meta, Marco Pancini in een blogpost. “De kans is zeer aanwezig dat er invloed uitgeoefend gaat worden op de Europese verkiezingen”, vertelt Harald Vranken, hoogleraar cybersecurity. “AI is een instrument waarmee je die invloed heel makkelijk uit kan oefenen.”
Desinformatie door AI laten genereren kan op verschillende manieren. Als landen of politieke partijen er op uit zijn om hun invloed in Europa te vergroten, kunnen ze verschillende soorten desinformatie met AI produceren. “AI kan nepfoto’s maken die heel realistisch lijken”, aldus Vranken. “Daarnaast kan het ook nep artikelen maken en het op echte nieuwsverhalen laten lijken. AI is zo nieuw en verbetert zichzelf zo snel dat we op moeten blijven letten wat er mogelijk is en hoe het ingezet kan worden.”
Halve wereld naar de stembus
Het team van Meta is aangesteld naar aanleiding van de Europese verkiezingen, maar er zijn in 2024 veel belangrijke verkiezingen. Bijna de helft van de wereldbevolking gaat in 2024 naar de stembus. De presidentsverkiezingen in de Verenigde Staten staan bijvoorbeeld dit jaar op de planning. Tijdens de vorige verkiezingen in 2016 en 2020 werd veel nepnieuws door onder andere Rusland verspreid. OpenAI-topman Sam Altman, van het bedrijf achter ChatGPT waarschuwde recent op het World Economic Forum voor de gevaren van desinformatie door AI. “We zullen dit ongelofelijk goed in de gaten moeten houden”, vertelde Altman.
Genereren en herkennen
Er zijn al wetten aangenomen door de Europese Unie om AI-gegenereerde desinformatie tegen te gaan. “Twee jaar geleden is de Digital Service Act aangenomen”, aldus Vranken. “Deze wet maakt het mogelijk voor de Europese Unie om boetes uit te delen aan platformen die nepnieuws verspreiden.” Vooralsnog is het deels aan online platforms zelf om desinformatie tegen te gaan. Volgens Vranken is geen reden tot paniek: “Het voordeel aan AI is dat het niet alleen beter wordt in het verspreiden van desinformatie. AI systemen doen wat aan ze gevraagd wordt. AI systemen die gespecialiseerd zijn in het herkennen van nepnieuws en nepfoto’s worden ook steeds beter.”
