Une soirée sur le thème de l’éthique, mardi 28 mai. Comment rendre l’AI digne de confiance ? Digityser a convié Nathalie Smuha, avocate spécialisée.

Rabelais écrivait dans Pantagruel «Science sans conscience n’est que ruine de l’âme». S’il est un domaine auquel cette citation pourrait être appliquée, c’est bien l’AI. Nous devons tous nous sentir concernés par l’intelligence artificielle, ses usages et leur impact éventuel sur la société. Il est d’ailleurs rassurant de constater que les principaux acteurs s’accordent sur l’importance de la régulation de l’intelligence artificielle.

Le débat sur l’utilisation de ces technologies prendra inévitablement une ampleur grandissante au fil des années à venir. Nous sentons une réelle prise de conscience de l’importance de l’éthique. Mardi 28 mai, Digityser accueillera Nathalie Smuha, pour en débattre. Lawyer & Coordinator High-Level Expert Group on AI, DG Connect, mais aussi Assistant Lecturer, KULeuven, Nathalie Smuha a participé étroitement aux travaux de la Commission européenne qui, en avril 2019, a livré un cadre pour une IA digne de confiance.

L’AI révolutionne nos modes d’action et pourrait bouleverser nos repères éthiques, déjà bien fragiles. A titre d’exemple, l’AI programmée dans la voiture autonome pose des questions morales impossibles à résoudre même pour un être humain : en cas de défaillance de ma voiture, choisirai-je de tuer deux enfants ou bien trois personnes âgées, si ceux-ci venaient simultanément à croiser ma trajectoire? C’est à cette question épineuse de l’éthique que la Commission Européenne a tenté de s’atteler avec la rédaction du AI Ethical Guideline -un document que Nathalie caractérise de «nature vivante».

Parler de l’Homme

Mais de quelle éthique parle-t-on ? Déjà, bien des critiques ont été émises sur le projet de la Commission européenne dont le groupe de 52 experts qui a été formé compte en fait une large majorité d’acteurs de l’industrie et de fédérations industriels, alors qu’il aurait opportun de tenir compte d’un certain nombre de philosophes, d’éthiciens, mais aussi de sociologues et d’anthropologues, voire de personnels de la santé. Parler d’éthique consiste à parler de l’Homme pour lui garantir le respect de ses libertés et le protéger de lui-même le cas échéant.

Plus encore que les questions éthiques, la confiance dans les algorithmes est vue comme un enjeu majeur. Dans la foulée de la Commission européenne, des entreprises belges ou actives en Belgique comme Barco, IBM et Microsoft s’apprêtent à tester au cours des prochains mois la faisabilité des règles éthiques proposées. Avec quels succès ? On verra.

Au cours de cette soirée organisée par Digityser, Nathalie Smuha reviendra certainement sur les six principes éthiques considérés comme fondateurs du groupe d’experts : la Bienfaisance (faire le bien), la Non-malfaisance (ne pas nuire), l’autonomie des humains, la Justice (c’est-à-dire la non-discrimination de l’IA) et l’explicabilité pour assurer autonomie, consentement éclairé et protection des donnés. Mais alors, sans autonomie, l’utilisateur n’aurait-il pas de droits? De même, transparence des algorithmes, non-discrimination, protection des données seront-ils des principes suffisants pour garantir le respect de nos libertés ? Sans doute pas.

Les incantations ne suffiront pas

Rien n’est figé. C’est à la fois le problème…. et la clé du problème. On comprend que le défi est de préserver une conscience et une exigence humaines là où la technologie bouleverse déjà nos conceptions et certains repères structurant nos modes de réflexion, de vie en société et d’exercice de nos responsabilités. Il n’est donc pas certain que les incantations suffisent et que les lignes directrices, aussi pertinentes soient-elles, permettent de résister à des stratégies et à des intérêts qui visent leur obsolescence.

S’il nous faut être inventifs d’une éthique capable d’inspirer, de fonder, de promouvoir et de soutenir des principes d’humanité à hauteur d’enjeux qui à tant d’égards fascinent tout en appauvrissant nos capacités d’en saisir les conséquences, encore s’impose-t-il à nous le courage politique de refuser l’imprudence ou la tentation de renoncements apparemment avantageux.

La compétition scientifique dans le champ de l’AI et les perspectives en termes de maîtrise, de contrôle, de souveraineté, de gouvernance et d’économie sont telles qu’il convient d’admettre que s’y joue à la fois le devenir de notre société ainsi que la capacité d’assumer nos responsabilités au regard des générations futures.