Na nepnieuws bedreigt volgens ESET aan de vooravond van dit verkiezingsjaar een combinatie van desinformatie en deepfakes die zelfs de experts zou misleiden.

Deepfakes, wapens voor massale misleiding! Gemakkelijkere toegang tot GenAI zal hun verspreiding versnellen. In een recente analyse verwijst ESET naar hun “democratisering” en heeft het het over “schade op grote schaal”. We zullen steeds meer staatsactoren en hacktivisten zien die overtuigende desinformatiecampagnes lanceren. Het WEF rangschikte desinformatie onlangs als het grootste wereldwijde risico in de komende twee jaar, na een enquête onder 1.490 experts uit de academische wereld en het bedrijfsleven.

In 2024 in het bijzonder. Dit jaar worden er zo’n zestig verkiezingen gehouden, waaronder die van de vijf dichtstbevolkte landen ter wereld. Ook dit jaar wordt verwacht dat een recordaantal kiezers, die 49% van de wereldbevolking vertegenwoordigen, naar de stembus zal gaan, wat het belang en de omvang van deze verkiezingen onderstreept.

Een risico op een democratische ramp

Tijdens deze verkiezingen, die het geopolitieke landschap waarschijnlijk opnieuw zullen bepalen, zullen we allerlei aanvallen zien. Zweden, bijvoorbeeld, is het doelwit geweest van herhaalde DDoS-aanvallen terwijl het door het proces van toetreding tot de NAVO gaat. Met deepfakes is het gevaar verraderlijker. En, zoals het WEF opmerkt, “bestaat het risico dat sommige regeringen te traag reageren, niet weten hoe ze desinformatie moeten voorkomen en de vrijheid van meningsuiting moeten beschermen”.

Het doel, legt ESET uit, is om het vertrouwen van de kiezer in een bepaalde kandidaat te verminderen. Het is makkelijker om iemand te overtuigen iets niet te doen dan andersom. Als aanhangers van een politieke partij of kandidaat op gepaste wijze kunnen worden beïnvloed door valse audio- of video-opnamen, zou dat een definitieve overwinning zijn voor rivalen. Schurkenstaten kunnen proberen om het vertrouwen in het hele democratische proces te ondermijnen, zodat wie er ook wint het moeilijk zal vinden om legaal te regeren.

De kern van de uitdaging is een eenvoudige waarheid: wanneer mensen informatie verwerken, geven ze de voorkeur aan kwantiteit en begrijpelijkheid. Hoe vaker we kijken naar inhoud met een vergelijkbare boodschap en hoe makkelijker deze te begrijpen is, hoe groter de kans dat we het geloven. Als gevolg hiervan bestaan marketingcampagnes vaak uit korte boodschappen die keer op keer worden herhaald. Bovendien wordt het steeds moeilijker om deepfakes van echte content te onderscheiden, wat kan leiden tot een democratische ramp.

Verankeringsvooringenomenheid

We hebben gezien dat YouTube en Facebook traag reageerden op bepaalde deepfakes die de recente verkiezingen beïnvloedden. De recente Europese Digitale Wet, die sociale mediabedrijven verplicht om pogingen tot verkiezingsmanipulatie hard aan te pakken, is een dode letter gebleven… Er worden echter wel inspanningen geleverd. OpenAI gaat bijvoorbeeld de digitale identificatie-informatie van de Coalition for Content Provenance and Authenticity implementeren voor afbeeldingen die door DALL -E3 worden gegenereerd. De cryptografische watermerktechnologie – ook getest door Meta en Google – is ontworpen om het moeilijker te maken om valse afbeeldingen te produceren.

Dit zijn echter slechts kleine stappen. En er zijn legitieme zorgen dat de technologische reactie te weinig is en te laat komt, nu de verkiezingskoorts de wereld in zijn greep houdt, merkt ESET op. Vooral wanneer bedreigingen worden verspreid via tamelijk gesloten netwerken zoals WhatsApp of geautomatiseerde oproepen, is het moeilijk om valse audio of video op te sporen en snel in diskrediet te brengen.

De theorie van “anchoring bias” suggereert dat de informatie die in ons geheugen blijft hangen de eerste is die we horen, zelfs als die fout is. Als de deepfakers er als eerste in slagen om de kiezers te beïnvloeden, dan is het helemaal niet meer de vraag wie de uiteindelijke winnaar wordt.