L’IA générative accélérera la propagation de deepfakes. Nous ne sommes qu’au début d’un phénomène incontrôlé, estime l’experte Nina Schick, qui sera à Cybersec Europe les 19 et 20 avril prochains.

« Pour quiconque est un professionnel de la communication, l’avenir est synthétique. Je ne doute pas qu’au cours des cinq à sept prochaines années, il deviendra de plus en plus évident que tout le contenu avec lequel nous nous engageons sera entièrement ou partiellement généré par l’IA ! »

L’IA générative, comme le ChatGPT d’OpenAI, pourrait complètement réorganiser la façon dont le contenu numérique est développé, estime Nina Schick, Author & Generative AI Expert : « Je pense que nous pourrions atteindre 90 % du contenu en ligne généré par l’IA d’ici 2025. Ce qui veut dire que cette technologie est exponentielle. Autrement dit, elle ne sera pas le seul fait de ChatGPT. Il y a toute une pléthore d’autres plateformes et applications qui arrivent… »

Certes, il est fort question actuellement de ChatGPT. Son succès a été immédiat, dépassant le cap du million d’utilisateurs en l’espace de cinq jours ! « L’IA générative aura plus d’impact que la naissance de l’internet ! Chaque partie de notre société sera transformée d’ici cinq à dix ans », pronostique encore Nina Schick, qui comptera parmi les keynotes speakers lors de Cybersec Europe, sur le thème « We’re about to enter a new era of machine-powered intelligence. » Nina Schick, qui se présente comme « facilitatrice de l’IA », a été largement publiée, notamment par Wired, Time ou la MIT Tech Review. Sa réputation tient aussi ses discours liminaires pour des entreprises et des organisations telles que Adobe ou Microsoft, mais aussi la DARPA et l’ONU. Elle a également conseillé des dirigeants tels que Joe Biden, le président des États-Unis, et Anders Fogh Rasmussen, l’ancien secrétaire général de l’OTAN.

Vie privée, un sujet de plus en plus controversé

« L’IA générative sera utilisée comme une arme ! Les deepfakes peuvent (re)créer des personnes, qu’il s’agisse de célébrités ou de gens ordinaires. La vie privée et les données deviendront un sujet encore plus controversé. Les géants de la technologie voudront dominer cette technologie. Comment allons-nous faire face à cela ? »

Auteure de « Deepfakes : The Coming Infocalypse », Nina Shick estime que la technologie a toujours rendu la manipulation des médias plus facile et plus accessible -Photoshop en est le plus bel exemple. Mais les avancées récentes de l’IA vont encore plus loin. Elles donnent aux machines le pouvoir de générer des médias entièrement synthétiques, estime-t-elle. « Cela aura d’énormes implications sur la façon dont nous produisons du contenu. Comment, aussi, nous communiquons et interprétons le monde. Cette technologie est encore naissante. Mais dans quelques années, toute personne possédant un smartphone pourra produire des effets spéciaux de niveau hollywoodien. Et cela à un coût presque nul, avec un minimum de compétences ou d’efforts. »

Bien que cela aura de nombreuses applications positives -les films et les jeux informatiques vont devenir de plus en plus spectaculaires- on peut aussi s’attendre au pire.

Mésinformation, désinformation

« Lorsqu’il est utilisé à des fins malveillantes comme désinformation ou lorsqu’il est utilisé comme désinformation, un média synthétique est appelé un ‘deepfake’. C’est ma définition du mot. Et comme ce domaine est tellement nouveau, il n’y a toujours pas de consensus sur la taxonomie. Cependant, comme il existe des cas d’utilisation positifs et négatifs pour les médias synthétiques, je distingue spécifiquement un ‘deepfake’ comme tout média synthétique utilisé à des fins de mésinformation et de désinformation. »

Pour l’oratrice, le système était déjà corrompu. Si la désinformation a toujours existé, les algorithmes peuvent le faire de façon plus convaincante. Voici un an, des pirates ont diffusé sur des sites ukrainiens que le président Volodymyr Zelensky demandait à ses soldats de déposer les rames face à la Russie… « Lorsque de faux médias générés par l’IA pénètrent dans cet écosystème d’informations pollué, le bruit va occuper tout l’espace. Notre capacité, en tant que consommateurs, de faire la distinction entre la vérité et le bruit deviendra de plus en plus difficile, les contrefaçons devenant de plus en plus authentiques. »

Deepfakes, vigilance

Question : comment se protéger ? Comment vivre dans ce nouvel univers ? Déjà, savoir ; comprendre la menace conceptuelle, estime Nina Schick. « Avec la connaissance vient le pouvoir ! C’est la seule façon de corriger le tir, d’entraver l’écosystème d’information corrodé. De la même façon, soyez critique -ce qui ne signifie pas cynique ».

Il faut comprendre qu’il existe de nouvelles manières par lesquelles notre identité peut être détournée, nos données biométriques peuvent être émulées par l’intelligence artificielle. Elles peuvent être utilisées contre nous de la manière la plus odieuse. C’est-à-dire sans notre consentement, à notre insu, juste à partir d’une empreinte numérique que presque tout le monde a en ligne…

« Et puis, soyez vigilant ! Lorsque des solutions sortiront pour vous protéger avec des outils de détection et des outils de provenance, mettez-les en œuvre. C’est comme installer l’antivirus sur votre ordinateur. C’est la prochaine menace à venir, alors protégez-vous quand vous le pouvez ! »