73 % des consommateurs dans le monde déclarent faire confiance aux contenus créés par les IA génératives… en négligeant ses dangers

Confiance, excès de confiance ? Selon l’étude Why consumers love generative AI du Capgemini Research Institute révèle que les consommateurs font confiance aux IA génératives pour les aider à gérer leurs finances, obtenir des diagnostics médicaux et les conseiller sur leurs relations avec leur entourage. On peut s’en réjouir.

Les consommateurs qui utilisent régulièrement l’IA générative sont particulièrement satisfaits des chatbots, des jeux et des cas d’usage pour la recherche, mais les plateformes d’IA générative sont également utilisées pour des activités personnelles et quotidiennes.

C’est ainsi que plus de la moitié des personnes interrogées (53 %) font confiance aux IA génératives pour les aider à gérer leurs finances. Par ailleurs, 67 % des consommateurs dans le monde affirment qu’ils pourraient bénéficier de diagnostics et de conseils médicaux fournis par l’IA générative, et 63 % déclarent se réjouir du potentiel des IA génératives pour développer des traitements médicaux plus précis et plus efficaces. En outre, deux tiers (66 %) des consommateurs sont prêts à se tourner vers les IA génératives pour obtenir des conseils sur leurs relations personnelles ou leurs projets de vie et de carrière, notamment les baby-boomers (70 %).

Les consommateurs sont peu conscients des enjeux éthiques et des dérives de l’IA générative

En revanche, les consommateurs sont peu informés sur les risques encourus, tels que les cyberattaques et les « deepfakes ». Ainsi, près de la moitié (49 %) des consommateurs ne craignent pas que l’IA générative soit utilisée pour créer de fausses informations. Et seulement 34 % des personnes interrogées s’inquiètent des attaques de phishing.

Les consommateurs sont également peu soucieux des enjeux éthiques de l’IA générative, puisque seuls 33 % d’entre eux s’inquiètent des questions de droits d’auteur et à peine 27 % se préoccupent de l’utilisation d’algorithmes d’IA générative pour copier les modèles ou les compositions des produits des concurrents.

« Le fonctionnement de cette technologie et les risques associés sont encore très mal compris, commente Niraj Parihar, Director, Insights & Data, Capgemini. Si la réglementation est essentielle, les partenaires commerciaux et technologiques ont également un rôle important à jouer pour contribuer à éduquer et appliquer les mesures nécessaires en matière d’éthique et d’utilisation abusive de l’IA générative. »

Et de poursuivre : « Les IA génératives ne sont pas ‘intelligentes’ en soi ; l’intelligence provient des experts que ces outils accompagneront et soutiendront. La clé du succès réside donc, comme pour toute IA, dans ces garde-fous que les humains mettent en place pour en garantir la qualité. »

70 % des consommateurs souhaitent obtenir des recommandations sur de nouveaux produits et services

Près de la moitié des consommateurs (43 %) souhaitent que les entreprises utilisent les IA génératives pour interagir avec eux. Et la moitié d’entre eux sont séduits par les expériences hautement immersives et interactives que cette technologie peut permettre. Il s’agit d’une bonne opportunité pour les entreprises. En effet, les outils d’IA générative sont déjà envisagés par 70 % des consommateurs lorsqu’ils sollicitent des recommandations pour de nouveaux produits et services. La majorité (64 %) sont prêts à effectuer des achats sur cette base. Il n’y a pas de différence significative entre les groupes d’âge et 67 % des consommateurs estiment que les IA générative sont capables de proposer des recommandations personnalisées en matière de mode et de décoration d’intérieur.