IA et cybersécurité, ange ou démon ?

L’IA représente une double réalité : une menace en matière de cybersécurité et un outil pour renforcer la défense. Ange ou démon ? Dominique Mangiatordi, expert en IA, invité de la prochaine Cyber School, le 19 juin à Living Tomorrow, avance quelques pistes de réflexion.

« Nous devons être prudents et en même temps comprendre qu’il n’est pas bon de tout avoir dans un laboratoire. Il s’agit d’un produit que nous devons diffuser, mettre en contact avec la réalité et commettre des erreurs tant que les risques sont faibles. Cela dit, je pense que les gens devraient se réjouir que nous ayons un peu peur de cela. Si je pouvais dire que cela ne me fait pas peur, vous ne devriez pas me faire confiance (…) » C’était en mars 2023. Sam Altam, fondateur d’OpenAI, exprimait ses craintes sur l’intelligence artificielle générative à ABC News. Plus récemment, à la mi-mai, le même Sam Altam présentait ses excuses à l’actrice Scarlett Johansson, qui l’accusait d’avoir copié sa voix pour Sky, le tout nouveau mode vocal de ChatGPT…

Nous naviguons entre « AI safety » et « AI ethics », deux camps bruyants, diamétralement opposés. Entre les deux, le balancier effectue inlassablement son mouvement. A nous d’en saisir le rythme. Question : l’IA est-elle réellement le nouvel outil indispensable de la cybersécurité aux opportunités multiples, ou bien les risques encourus face à cette nouvelle technologie, pour laquelle nous ne disposons d’aucun recul, sont-ils trop élevés ? « Si l’IA est utilisée comme facilitateur du quotidien, elle pose de nombreuses interrogations en termes de sécurité », reconnait Dominique Mangiatordi, expert en IA, invité de la prochaine Cyber School (*), organisée par Cyber Security Management, le 19 juin à Living Tomorrow (Vilvorde).

Ange ou démon, une menace et un outil

Ne nous leurrons pas : nous sommes entrés dans l’ère de l’IA offensive. Cette évolution marque un tournant significatif dans la guerre numérique, où les IA deviennent à la fois des cibles et des acteurs majeurs des attaques, comme de la défense. Comme le note Dominique Mangiatordi, l’IA représente ainsi une double réalité : « une menace en matière de cybersécurité et un outil pour renforcer la défense… »

Au niveau des menaces les plus prévisibles, il y a naturellement les attaques traditionnelles. Mais dopée à l’IA, elles changent de nature, sans compter de nouvelles menaces qui ne manqueront pas de voir le jour. Les ransomwares ciblés font partie des menaces les plus préoccupantes, car ils visent de plus en plus souvent des organisations abritant des données sensibles tels que les hôpitaux et l’administration publique. Les attaques Zero-Day sont également en hausse. Avec les Jeux Olympiques de Paris 2024 en ligne de mire, plus de 3 milliards d’attaques sont anticipées ! Côté entreprise, les fournisseurs et partenaires sont devenus des cibles privilégiées, avec une augmentation spectaculaire des attaques de la chaîne d’approvisionnement. Globalement, des attaques en hausse de 600 % l’année dernière !

Hacker isolé, mais entouré d’une petite armée

« Désormais, plus besoin d’être un expert en codage et réseau, l’intelligence artificielle offre un réel avantage pour qui souhaite effectuer une cyberattaque, poursuit Dominique Mangiatordi. En maîtrisant les IA, les hackers, souvent isolés, se retrouvent entourés d’une petite armée ! » De par la disponibilité et l’accessibilité des techniques d’IA, tout un chacun pourrait s’improviser hacker. Les phénomènes de ChatGpT et de Codex participent justement à l’émergence de nouveaux outils bien plus accessibles et bien plus rapides.

« L’IA est donc capable de prendre en charge de nombreuses étapes souvent très chronophages dans l’élaboration d’une cyberattaque qui semble presque automatisée. » Cette automatisation permet aussi aux cybercriminels de pouvoir attaquer de façon moins coûteuse qu’auparavant. Grâce aux veilles automatisées, à l’optimisation de leurs capacités d’intrusion avec des techniques de phishing intelligent par exemple, les cyber-attaquants n’ont plus besoin d’autant de ressources qu’avant. Ce phénomène de transposition du crime terrestre vers le crime cyber grâce aux nouveaux outils ne change pas pour autant la nature de l’acte. L’IA offre de nouvelles opportunités aux criminels qui voient leur récompense augmentée et leur risque d’être repérés diminués (anonymisation par exemple).

IA offensives, IA défensives

Côté défensif, l’IA est un outil efficace pour une cybersécurité plus efficace, notamment au regard de la cyberdéfense des organisations aussi bien d’un point de vue organisationnel, pour l’attribution des ressources ou la protection des données, que pour des méthodes plus spécifiques telles que la réponse à incident ou la gestion de la menace cyber.

« L’IA permet de traiter un important volume de données en continu, rappelle Dominique Mangiatordi. Ainsi, elle peut détecter de nouveaux risques de sécurité, d’autant plus que les algorithmes apprennent au fur et à mesure afin d’éviter les procédures répétitives. Ainsi décuplées, ces capacités permettent d’améliorer certains aspects de la cybersécurité… »

L’intégration des technologies d’IA et de ML, en particulier, apportent beaucoup. Dans la détection des intrusions, par exemple, les systèmes basés sur l’IA surveillent en temps réel les activités réseau, identifiant tout comportement inhabituel révélateur d’un trafic malveillant. De même, les algorithmes de ML sont utilisés pour créer des modèles de comportement des logiciels malveillants, permettant ainsi une détection proactive des menaces potentielles.

De ce fait, l’IA devient cruciale dans l’analyse des vulnérabilités. Sans elle, il serait beaucoup plus compliqué, voire impossible, de détecter les vulnérabilités Zero-Day. Les IA apprennent et s’adaptent au comportement des attaquants pour mieux anticiper les menaces futures. Il devient alors beaucoup plus difficile, pour les acteurs cyber-malveillants, de les contourner.

Des atouts, mais aussi des limites

Plus globalement, l’IA améliore la gestion des risques en anticipant les menaces potentielles. En effet, en assimilant et en analysant des quantités massives d’informations sur les menaces passées et actuelles, les outils d’IA fournissent des solutions de sécurité robustes.

« Face à toutes ces différentes utilisations, qu’elles soient offensives ou défensives, l’intelligence artificielle reste un domaine sur lequel nous avons peu de recul aujourd’hui. Si ces atouts sont évidents, ses limites nous montrent toutes les défaillances qui devront être corrigées afin de pallier les risques d’attaques ou même d’éthique », nuance Dominique Mangiatordi.

Pas sans inconvénients

Comme la plupart des avancées techniques révolutionnaires, les avantages de l’intelligence artificielle sont contrebalancés par quelques inconvénients. Ainsi, le manque de jugement humain. Peu importe à quel point l’IA en matière de cybersécurité devient sophistiquée, les résultats ne sont puissants que proportionnellement par rapport aux données et algorithmes informatiques dont ils découlent. Le fait de s’appuyer sur l’IA laisse entièrement la porte ouverte à des préjugés involontaires et à un manque de responsabilité qui peuvent avoir un impact préjudiciable sur la sécurité et la perception des clients.

Autre souci, le potentiel de faux positifs. Cela peut se produire lorsque les systèmes basés sur l’IA font face à de nouveaux problèmes, mais ne disposent pas de l’historique ou du contenu nécessaire pour les analyser correctement. Trop de faux positifs ont le potentiel de submerger les équipes informatiques humaines ou de les amener à rejeter les menaces réelles en leur sein. Les réactions automatisées à des faux positifs peuvent également bloquer les utilisateurs ou les clients inutilement.

Quand la surface d’attaque ne cesse de s’amplifier

Et puis, il n’est pas toujours possible de suivre les nouvelles menaces. Les cybercriminels révisent leurs méthodes tout le temps, avec le potentiel de dépasser les capacités défensives des IA. En matière de cybersécurité, l’intelligence artificielle nécessite une sensibilisation et des données de formation pour se préparer aux derniers vecteurs d’attaque. Les pirates informatiques sont en permanence à l’affût de faiblesses, telles que les vulnérabilités Zero-Day qui peuvent être exploitées avant que les systèmes basés sur l’IA ne soient prêts à les résoudre…

« La vraie révolution tient à la vulgarisation des outils d’IA générative aujourd’hui proposés au grand public, ce qui suppose une augmentation de la criminalité », pointe Dominique Mangiatordi. Dans le même temps, la transformation numérique des entreprises est un fait, la dépendance digitale est réelle. Autrement dit, la surface d’attaque ne cesse de s’amplifier. « Face à ces nouvelles complexités, la maîtrise des risques cyber suppose de gagner une course de vitesse, en accélérant la capacité à anticiper et à identifier la menace, et à reboucler en temps réel les retours d’expérience des crises cyber… »

(*) Pour plus d’information sur la formation : anita.pint@cs-m.be Inscriptions avant le 7 juin, en indiquant vos coordonnées, votre fonction et votre entreprise. Attention, les places sont limitées !