Niet-conforme tools, een schreeuwend gebrek aan training… Deloitte luidt de noodklok

De helft van de Europese werknemers die GenAI voor zakelijke doeleinden gebruiken, gebruikt tools die niet aan de regels voldoen en waarvan de meeste gratis zijn. Dit baart CISO’s en andere beveiligingsmanagers grote zorgen.

Het is zelfs mogelijk dat tools die niet voldoen aan de normen voor beveiliging en vertrouwelijkheid van gegevens niet aan dezelfde normen voldoen als gevalideerde tools, waardoor vertrouwelijke bedrijfsinformatie kan worden blootgelegd en de vertrouwelijkheid van klanten kan worden geschonden. Deloitte luidt de noodklok na een breed onderzoek onder 30.000 werknemers van bedrijven in 11 Europese landen.

Tegelijkertijd noemt 30% van de Europese bedrijfsleiders risicomanagement als een belangrijk obstakel voor de succesvolle inzet van generatieve AI. Dit benadrukt de noodzaak voor organisaties om hun werknemers bewust te maken van de risico’s en om de governance-kaders rond deze tools te versterken.

Tools die niet meten

Uit het onderzoek bleek ook dat 25% van de werknemers die generatieve AI voor zakelijke doeleinden gebruiken, gebruikmaken van openbaar beschikbare tools die ze zelf financieren, terwijl slechts 19% gebruikmaakt van GenAI-platforms die intern door hun organisatie zijn ontwikkeld of zijn besteld bij externe ontwikkelaars.

Achter deze ordes van grootte gaan reële gevaren schuil. Voor Deloitte kunnen deze tools de juiste controles missen, wat kan leiden tot onbetrouwbare of onnauwkeurige resultaten, bevooroordeelde besluitvorming en schade aan de reputatie van een bedrijf. Het simpelweg verbieden van het gebruik van deze tools zonder een haalbaar alternatief te bieden, is echter geen effectieve strategie.

Vertrouwen versterken, prioriteit nr. 1

Het onderzoek geeft een duidelijk stappenplan voor bedrijven die vertrouwen willen opbouwen en een verantwoorde toepassing van GenAI willen bevorderen. Het eerste advies is om een duidelijke strategie en beleid op dit gebied te ontwikkelen. Vandaag de dag ligt het onderwerp nog gevoelig. Wie in het bedrijf gebruikt deze technologie? Zoals Deloitte opmerkt, is het zorgwekkend dat 56% van de werknemers denkt dat hun collega’s GenAI-tools gebruiken zonder expliciete goedkeuring van hun werkgever; 12% denkt dat dit vaak gebeurt.

Bovendien zegt de helft van de Europese werknemers die deze technologieën in een professionele context gebruiken, gebruik te maken van generatieve AI-tools die gratis en openbaar toegankelijk zijn, en deze soms zelfs zelf te financieren. Deze praktijken stellen bedrijven bloot aan verhoogde risico’s, met name op het gebied van gegevensbeveiliging, compliance en informatiebescherming.

Zorgen voor adequate training

Om het potentieel van GenAI te maximaliseren en de risico’s te minimaliseren, moet een praktisch trainings- en ontwikkelingsprogramma worden ontwikkeld. Dit moet betrekking hebben op de integratie van GenAI in werkprocessen en op het ethische en verantwoorde gebruik ervan. Uit het onderzoek blijkt dat 46% van de Europese werknemers die GenAI gebruiken voldoende training op deze gebieden heeft ontvangen. Dit is niet erg veel. Velen hebben inderdaad zonder toezicht toegang tot de tools.

Dit brengt aanzienlijke risico’s met zich mee op het gebied van gegevensbeveiliging en compliance, omdat deze externe tools mogelijk niet aan dezelfde eisen voldoen als de door het bedrijf gevalideerde platforms. Het is daarom van vitaal belang voor bedrijven om hun werknemers betrouwbare en veilige tools aan te bieden om het niet-goedgekeurde gebruik van deze technologieën te beperken.