L’IA générative et ses applications posent aux entreprises la double problématique de l’optimisation et du contrôle. Rémi Forest, Senior Manager – Solutions Engineering, Confluent, une plateforme de streaming de données, fait le point.

« Le point commun de toutes les discussions autour de l’IA est que les entreprises et les organisations cherchent à utiliser les IA génériques pour interroger leurs propres données afin de fournir des réponses quasi humaines, constate Rémi Forest. De là, la question de savoir comment l’entreprise doit contrôler en interne et jusqu’à quel niveau l’Etat peut-il réguler ? »

Par exemple, une compagnie aérienne pourrait utiliser l’IA générative pour fournir des informations en temps réel sur les vols, offrant ainsi une expérience utilisateur plus fluide et plus agréable qu’attendre la mise à jour d’un tableau des arrivées ou des départs en ligne. Si les informations sur les vols étaient liées à une plateforme de commerce électronique, la compagnie pourrait fournir une tarification dynamique. Et, ce faisant, s’assurer qu’aucun avion ne décolle sans avoir atteint son quota de passagers. Cela lui permettrait de maximiser ses profits tout en offrant une expérience de voyage plus personnalisée et plus satisfaisante à ses clients.

Informations plus récentes, mieux actualisées

De même, une banque pourrait être en mesure d’utiliser l’IA générative pour fournir des détails sur le compte courant d’une personne ou sur le montant de l’encours sur sa carte de crédit. « À première vue, il s’agit d’une tâche peu contraignante, d’autant plus que les informations sont déjà disponibles, commente Rémi Forest. Mais sans l’IA générative, cette personne devrait se connecter à un site web ou à une application, voire appeler un centre de contact, suivant un processus d’interrogation qui peut rapidement s’avérer lourd et fastidieux. »

Avec un système génératif basé sur une IA, la demande peut être traitée en quelques secondes. En s’appuyant sur des flux de données en temps réel qui combinent les informations rassemblées à partir de différents silos de données, et en les couplant avec un modèle de type LLM (Large Language Model), les demandes sont traitées « dans l’instant » sur la base des informations les plus récentes et les plus actualisées.

« Il ne s’agit pas d’un simple chatbot répondant à des questions préconfigurées. En réunissant tous ces éléments dans une solution, on obtient une solution dynamique de relation client qui peut être intégrée dans n’importe quelle organisation, poursuit Rémi Forest. Rien que pour cela, on comprend pourquoi l’IA générative est un sujet aussi brûlant… »

IA générative… mais comment garder le contrôle ? 

Régulation de l’IA vs. gouvernance de l’IA : qu’est-ce qui doit être régulé par l’État et qu’est-ce qui doit être régulé en interne par les entreprises ?

« Assisterons-nous bientôt à une percée européenne dans la bonne gestion de l’IA », questionne Rémi Forest. Avec son AI Act, l’Union européenne vise la première législation mondiale sur l’intelligence artificielle. Le bien-être de la société dans son ensemble doit notamment être au centre de cette législation.

« Ne nous leurrons pas : législation ou pas, il appartient aux entreprises elles-mêmes d’organiser soigneusement leur propre gouvernance des données, en particulier lorsqu’il s’agit de l’utilisation de grands modèles de langage LLM. Ce n’est qu’ainsi qu’elles pourront s’assurer que l’IA est utilisée non seulement de manière éthique et responsable, mais aussi de manière sûre et rentable. »

Alors que de nombreux domaines de l’entreprise peuvent bénéficier d’une automatisation accrue grâce à l’utilisation de l’IA -comme pour l’optimisation de la relation client-, l’utilisation de la technologie comporte également des risques. « En cas de panne ou de compromission des systèmes, les dommages potentiels peuvent être immenses, prévient Rémi Forest. Ainsi, les entreprises doivent veiller à ce que la résilience de leurs systèmes et les plans de continuité en cas de sinistre soient conçus de manière encore plus approfondie et qu’ils soient accompagnés de solutions de repli. Les services cloud disponibles peuvent notamment aider à garantir la sécurité nécessaire. »

En fin de compte, la bonne utilisation de l’IA dans l’entreprise est la tâche des CISO, des CTO et des CDO. Ensemble, ils doivent définir une approche globale de la gestion des données et de la gouvernance de l’IA dans le cadre de la feuille de route stratégique de l’entreprise.

Cercle vertueux

Pour Rémi Forest, l’AI Act est une étape importante. Elle devrait inciter chaque entreprise à définir et à examiner en profondeur sa gestion individuelle de l’IA. « Cela peut se faire à l’échelle de l’entreprise et de manière transparente grâce à l’introduction de fonctionnalités telles que les plateformes de streaming de données. La réalité est que les entreprises qui ne s’adaptent pas aux attentes des clients et des autorités vont manquer le coche. Il ne faut pas s’y tromper. Nous sommes à l’aube d’un changement sismique dans le monde des affaires, avec l’IA générative à son épicentre. »

Les opportunités sont là, mais l’IA doit être adoptée avec une planification minutieuse, en tenant compte des implications pour la transformation de l’entreprise.

« Comme toutes les évolutions technologiques majeures, un nécessaire besoin de réguler -en particulier les excès- s’applique à l’IA générative, conclut Rémi Forest. L’Europe pose en ce moment même les bases de cette régulation avec un objectif clair : faire bénéficier à ses citoyens de cette révolution tout en limitant les risques d’abus et de dérives. Mais ne nous y trompons pas, pour atteindre ces objectifs, ce sont les entreprises qui seront en première ligne pour garantir des usages vertueux et sécurisés. »