WASHINGTON (AP) – Computeringenieurs en technisch onderlegde politicologen waarschuwen al jaren dat goedkope, krachtige hulpmiddelen voor kunstmatige intelligentie iedereen binnenkort in staat zullen stellen nepbeelden, video’s en audio te maken die realistisch genoeg zijn om kiezers voor de gek te houden en mogelijk een verkiezing om te beïnvloeden.
De resulterende synthetische beelden waren vaak grof, niet overtuigend en duur om te produceren, vooral wanneer andere soorten verkeerde informatie zo goedkoop waren en gemakkelijk verspreid konden worden op sociale media. De dreiging van AI en zogenaamde deepfakes leek altijd een jaar of twee weg.
Niet langer.
Geavanceerde generatieve AI-tools kunnen nu binnen enkele seconden en tegen minimale kosten gekloonde menselijke stemmen en hyperrealistische afbeeldingen, video en audio creëren. Wanneer deze neppe en digitaal gecreëerde inhoud is gekoppeld aan krachtige algoritmen voor sociale media, kan deze zich ver en snel verspreiden, gericht op zeer specifieke doelgroepen, en mogelijk vuile campagnetrucs naar een nieuw dieptepunt brengen.
De impact op de campagnes en verkiezingen van 2024 is even groot als zorgwekkend: Generative AI kan niet alleen snel gerichte campagne-e-mails, -sms’jes of -video’s maken, het kan ook worden gebruikt om kiezers te misleiden, zich voor te doen als kandidaat en verkiezingen op een grootschalig in een ongekend tempo.
“We zijn hier niet op voorbereid”, waarschuwde AJ Nash, vice-president inlichtingen bij cyberbeveiligingsbedrijf ZeroFox. “Voor mij zit de grote stap voorwaarts in de audio- en videomogelijkheden die zijn ontstaan. Als je dat op grote schaal kunt doen en het op sociale platforms kunt delen, heeft dat een grote impact.”
AI-experts kunnen snel een reeks alarmerende scenario’s doornemen met behulp van generatieve AI om synthetische media te creëren om kiezers in verwarring te brengen, een kandidaat te belasteren of zelfs aan te zetten tot geweld.
Hier zijn er een paar: Geautomatiseerde robocall-berichten met behulp van de stem van een kandidaat, waardoor kiezers op de verkeerde datum moeten stemmen; Audio-opnamen van een kandidaat die naar verluidt een misdaad bekent of racistische opvattingen uit. Videobeelden van iemand die een toespraak of interview geeft die ze nooit hebben gegeven. Nepbeelden die zijn ontworpen om eruit te zien als lokale nieuwsberichten die ten onrechte beweren dat een deelnemer uit de race is gestapt.
“Wat als Elon Musk je persoonlijk belde en zei dat je op een bepaalde kandidaat moest stemmen?”, zegt Oren Etzioni, de oprichter en CEO van het Allen Institute for AI, die vorig jaar aftrad om de non-profitorganisatie AI2 op te richten. “Veel mensen zouden luisteren. Maar dat is hij niet.’
Voormalig president Donald Trump, die zich kandidaat stelt voor het ambt in 2024, heeft door AI gegenereerde inhoud gedeeld met zijn volgers op sociale media. Een gemanipuleerde video van CNN-presentator Anderson Cooper die Trump vrijdag deelde op zijn platform Truth Social, die Coopers reactie op het CNN City Hall van vorige week met Trump vervormde, werd gemaakt met behulp van een AI-tool voor het klonen van stemmen.
Een dystopische campagneadvertentie die vorige maand door het Republikeinse Nationale Comité werd uitgebracht, biedt nog een glimp van deze digitaal gemanipuleerde toekomst. De online advertentie, die liep nadat president Joe Biden zijn herverkiezingscampagne had aangekondigd, begint met een vreemd, enigszins vertekend beeld van Biden en de tekst: “Wat als de zwakste president die we ooit hebben gehad, werd herkozen?”
Een reeks door AI gegenereerde beelden volgt: Taiwan wordt aangevallen; winkelpuien dichtgetimmerd in de Verenigde Staten toen de economie instortte; Soldaten en gepantserde militaire voertuigen patrouilleren in de straten terwijl getatoeëerde criminelen en immigratiegolven paniek zaaien.
“Een door AI gegenereerde kijk op de mogelijke toekomst van het land als Joe Biden in 2024 wordt herkozen”, luidt de beschrijving van de advertentie door de RNC.
De RNC heeft het gebruik van AI erkend, maar anderen, waaronder snode politieke campagnes en buitenlandse tegenstanders, zullen dat niet doen, zegt Petko Stoyanov, global chief technology officer bij Forcepoint, een cyberbeveiligingsbedrijf gevestigd in Austin, Texas. Stoyanov voorspelde dat groepen die zich willen bemoeien met de Amerikaanse democratie AI en synthetische media zullen gebruiken om het vertrouwen uit te hollen.
“Wat gebeurt er als een internationale entiteit – een cybercrimineel of een natiestaat – zich voordoet als iemand? Wat zijn de effecten? Hebben we een verhaal?” zei Stoyanov. “We zullen nog veel meer desinformatie uit internationale bronnen zien komen.”
Door AI gegenereerde politieke desinformatie is in de aanloop naar de verkiezingen van 2024 al viraal gegaan op internet, van een gemanipuleerde video van wat lijkt op Biden die een toespraak houdt waarin hij transgenders aanvalt tot door AI gegenereerde afbeeldingen van kinderen die naar verluidt satanisme leren in bibliotheken.
AI-beelden die de mugshot van Trump leken te laten zien, hielden ook sommige gebruikers van sociale media voor de gek, hoewel de voormalige president er geen deed toen hij werd aangeklaagd en beschuldigd van het vervalsen van zakelijke gegevens in een strafrechtbank in Manhattan. Andere door AI gegenereerde afbeeldingen lieten zien dat Trump zich verzette tegen arrestatie, hoewel haar maker snel haar afkomst erkende.
Een wetsvoorstel dat van kandidaten vereist dat ze campagneadvertenties markeren die met AI zijn gemaakt, werd in het Huis van Afgevaardigden ingediend door vertegenwoordiger Yvette Clarke, DN.Y., die ook een wetsvoorstel sponsorde dat iedereen die synthetische afbeeldingen maakt, verplicht een watermerk toe te voegen om aan te geven dit feit.
Sommige staten hebben hun eigen voorstellen gedaan om diepgewortelde zorgen weg te nemen.
Clarke zei dat haar grootste angst is dat voorafgaand aan de verkiezingen van 2024 generatieve AI zou kunnen worden gebruikt om een video of audio te maken die aanzet tot geweld en Amerikanen tegen elkaar opzet.
“Het is belangrijk dat we de technologie bijhouden”, zei Clarke tegen The Associated Press. “We moeten enkele richtlijnen opstellen. Mensen kunnen voor de gek worden gehouden, en het duurt maar een fractie van een seconde. Mensen hebben het druk met hun leven en hebben niet de tijd om alle informatie te controleren. Als AI als wapen wordt gebruikt, kan dat in een politiek stadium extreem ontwrichtend werken.”
Eerder deze maand veroordeelde een branchevereniging voor politieke adviseurs in Washington het gebruik van deepfakes in politieke advertenties en noemde het “een schijnvertoning” die “geen plaats heeft in legitieme, ethische campagnes”.
Andere vormen van kunstmatige intelligentie maken al jaren deel uit van politieke campagnes, waarbij gegevens en algoritmen worden gebruikt om taken te automatiseren, zoals het richten van kiezers op sociale media of het opsporen van donoren. Campagnestrategen en tech-ondernemers hopen dat recente innovaties in 2024 positieve effecten zullen blijven hebben.
Mike Nellis, CEO van het vooruitstrevende digitale bureau Authentic, zei dat hij ChatGPT “elke dag” gebruikt en moedigt zijn werknemers aan om het ook te gebruiken, zolang alle inhoud die met de tool is gemaakt, vervolgens door mensenogen wordt geverifieerd.
Het nieuwste project van Nellis in samenwerking met Higher Ground Labs is een AI-tool genaamd Quiller. Het zal donatie-e-mails schrijven en verzenden en hun effectiviteit meten – allemaal typisch vervelende campagnetaken.
“Het idee is dat elke democratische strateeg, elke democratische kandidaat, een copiloot op zak heeft”, zei hij.
___
Swenson meldde vanuit New York.
___
De Associated Press krijgt steun van verschillende particuliere stichtingen om haar verklarende berichtgeving over verkiezingen en democratie te verbeteren. Meer informatie over het Democratie-initiatief van AP vindt u hier. De AP is als enige verantwoordelijk voor alle inhoud.
___
Volg de berichtgeving van de AP over verkeerde informatie op https://apnews.com/hub/misinformation en berichtgeving over kunstmatige intelligentie op https://apnews.com/hub/artificial-intelligence