Kunnen we het nog hebben over “creaties”? Dominique Mangiatordi, een man van communicatie, vreest dat inhoud gestandaardiseerd zal worden, ten koste van diversiteit en authenticiteit.
Hoewel “de democratisering van generatieve AI-tools kan leiden tot een industrialisering van aanvallen”, volgens AI-expert Dominique Mangiatordi, gastspreker op de recente Cyber School op 19 juni bij Living Tomorrow, is het ook de verfijning van de offensieven die het spel verandert. Een goed voorbeeld is de recente versie 5.0 voorzittersfraude bij een bedrijf in Hong Kong, in de vorm van een videoconferentie met een larger-than-life CFO, het resultaat van een deepfake. Het resultaat: 25 miljoen dollar verduisterd.
AI heeft het web overspoeld en speelt een steeds belangrijkere rol bij het maken van content. Of het nu gaat om het genereren van artikelen, afbeeldingen, video’s of zelfs muziek, AI-gebaseerde tools vermenigvuldigen zich en worden steeds krachtiger. Maar dit is niet zonder gevaren. Het gaat om het extreme realisme van de content. “Het echte wordt verward met het valse en omgekeerd. Het wordt moeilijk, zo niet onmogelijk, om onderscheid te maken tussen inhoud die door mensen is gemaakt en inhoud die door machines is gemaakt!
Afgezien van de verkeerde informatie is het de vraag naar de toekomst van menselijke creaties die wordt gesteld.
In een jaar tijd is het aantal deepfakes in België met 950% gestegen, meldt Statista. Dat is veel. Bovendien blijkt uit een nieuw onderzoek, gepubliceerd door ISMS.online, dat deepfakes nu het op één na meest voorkomende informatiebeveiligingsincident zijn voor Britse bedrijven en dat meer dan een derde van de organisaties ermee te maken heeft gehad…
De tools kunnen er ook voor zorgen dat phishingcampagnes er realistischer uitzien en hun doelwit aantrekken. Een afbeelding van de paus in een Balenciaga-jasje ging viral voordat werd onthuld dat de afbeelding was gemaakt door een AI, wat bewijst dat de kans dat AI-afbeeldingen en deepfake-video’s als geloofwaardig worden beschouwd nog nooit zo groot is geweest.
Naast verkeerde informatie roept dit ook de vraag op naar de toekomst van menselijke creativiteit. Met tools die binnen enkele seconden teksten, afbeeldingen of video’s kunnen produceren, kunnen we ons afvragen welke plaats menselijke makers nog hebben in een wereld waar inhoud onmiddellijk en tegen lagere kosten kan worden gegenereerd door algoritmes…
En, ten eerste, kunnen we het nog hebben over “creaties”? Dominique Mangiatordi, een man van communicatie, vreest dat de inhoud gestandaardiseerd zal worden, ten koste van de diversiteit en authenticiteit. “Dit is al het geval met de illustraties die zijn gemaakt voor ChatGPT, die een schrijnend gebrek aan originaliteit vertonen.
De juiste balans vinden
Tegelijkertijd zou het simplistisch zijn om AI alleen als een puur en simpel gevaar te zien. Als AI op de juiste manier wordt gebruikt, kan het een formidabel hulpmiddel zijn bij creatie en dus innovatie. Adobe AI voor Photoshop en Illustrator, bijvoorbeeld, bespaart ontwerpers tijd bij het verwerken van foto’s en, in het verlengde daarvan, creatief werk.
Uiteindelijk zal de uitdaging zijn om een balans te vinden tussen de voordelen van AI en het behoud van de authenticiteit van content. Er zal strengere regelgeving nodig zijn om het misbruik van AI in de hand te houden. Daarnaast moet het publiek beter worden voorgelicht over de risico’s van deepfakes. Daarnaast moeten de veiligheidsmaatregelen en online identiteitscontroles worden verbeterd.
“Uiteindelijk is AI slechts een hulpmiddel. Het is aan ons, als gebruikers en makers, om ervoor te zorgen dat het wordt gebruikt ten voordele van kennis, waarheid en menselijke creativiteit, in plaats van ten nadele”, analyseerde Dominique Mangiatordi, die het publiek toesprak dat was samengebracht door Cyber Security Management, de organisatoren van de Cyber School.
Vandaar, naast een echte aantrekkingskracht, een enorme twijfel. Volgens een onderzoek van Forrester is beveiliging vandaag de dag een belangrijk obstakel voor 64% van de bedrijven die AI gebruiken. Het is duidelijk dat bijna tweederde van de organisaties niet weet hoe ze de veiligheid van generatieve AI-tools moeten beoordelen.
Een van de grootste zorgen over Microsoft Copilot is dus hoe het beveiligingsmodel werkt met autorisaties en het feit dat deze oplossing toegang heeft tot alle bestanden en informatie van de gebruiker in kwestie. Maar, legt Dominique Mangiatordi uit, de meeste bedrijfsgebruikers hebben al veel te veel toegang.
Ons gevoel voor analyse verdwijnt
“Wat alle bedrijven gemeen hebben, is de aanzienlijke toename van de toegang tot gegevens voor iedereen in het bedrijf. Dat is echt het grootste risico, waarvan ik heb gemerkt dat de meeste bedrijven er geen rekening mee houden. Het is wat zich het meest direct vertaalt in risico’s met Copilot, want dat is waar het misbruik van maakt. In onze bedrijven hebben we de verantwoordelijkheid om het model van de minste privileges intern te implementeren”.
Volgens een onderzoek van Varonis zei 76% van de deelnemers dat ze zich zorgen maakten over de risico’s van het gebruik van generatieve AI, maar dat ze het toch wilden blijven gebruiken. Zonder de juiste training of proactieve beveiligingsmaatregelen lopen bedrijven het risico dat hun kritieke informatie wordt gedeeld met deze tools, of erger nog, met het hele internet.
“Naarmate het gebruik van AI-tools toeneemt, zullen mensen steeds luier worden en misschien te veel vertrouwen op AI om de veiligheidscontroles uit te voeren die ze zelf zouden moeten uitvoeren. Ons gevoel voor analyse verdwijnt“, merkt Dominique Mangiatordi op.
Interview door
Alain de Fooz