« L’IA éthique devrait être aussi essentielle à l’IA que les données », estime Reggie Townsend, Director, SAS Data Ethics Practice. L’utilisation responsable de l’intelligence artificielle doit être une priorité

« L’IA éthique se cherche. Il n’existe pas de cadre commun pour réglementer l’IA. C’est pourquoi nous devons veiller à imposer des restrictions uniquement sur le déploiement de la technologie, pas sur le développement. Si vous deviez restreindre les développements en général, vous courez le risque que d’autres pays obtiennent des avantages potentiellement insurmontables en matière d’IA ! »

En revanche, poursuit Reggie Townsend, Director, SAS Data Ethics Practice, si vous le faites correctement, la réglementation profitera en fin de compte aux entreprises utilisant l’IA. De fait, elle définit les attentes et réduit les risques. Il y aura encore beaucoup de place pour l’innovation, mais avec des directives plus claires qui empêchent les dommages involontaires à la société ou aux clients, ainsi qu’à la réputation et à la marque de l’entreprise.

Les avantages et les dangers de l’IA

L’IA a le potentiel de transformer notre économie mondiale et notre façon de travailler. Par exemple, le Centre médical universitaire d’Amsterdam (AUMC) a collaboré avec SAS pour former un modèle d’apprentissage en profondeur capable d’identifier instantanément les caractéristiques des tumeurs et de partager des informations avec les médecins. Aux États-Unis, SAS a travaillé avec le Center for NYC Neighborhoods pour découvrir les disparités dans la valeur des maisons, les prêts à l’achat d’une maison et les rapports de violation de l’entretien qui désavantagent les personnes de couleur.

« Malheureusement, l’IA peut également nuire à ces mêmes communautés vulnérables, constate Reggie Townsend. Ainsi, les systèmes de police prédictive sont souvent utilisés pour répartir la police dans les villes. Ces modèles sont basés sur des données sur la criminalité, telles que le nombre d’arrestations. Mais se sont également avérés sensibles aux boucles de rétroaction incontrôlables. Pour cette raison, la police est souvent renvoyée dans les mêmes quartiers. Ce qui impacte négativement les groupes minoritaires, généralement surexposés à la police dès leur plus jeune âge… »

Des risques surviennent également lorsque les humains sont retirés du processus. Par conséquent, il est essentiel que l’utilisation de l’IA soit centrée sur l’humain et étroitement surveillée. Enfin, l’IA est parfois abusée par des personnes qui ont compris comment le système peut aider à promouvoir leurs messages. « Si vous voulez pouvoir profiter des avantages de l’IA, vous avez clairement besoin de réglementations et de normes éthiques ! »

IA éthique, questions à se poser

Encore faut-il définir un cadre réglementaire solide autour de l’IA. Pour Reggie Townsend, il est important d’évaluer dans un premier temps les réglementations existantes pour éviter les doubles emplois et la complexité juridique croissante. « La cohérence est essentielle pour éviter que les fournisseurs d’IA n’aient à adapter leurs produits à des réglementations différentes et contradictoires. La clarté garantit que toutes les parties prenantes comprennent les obligations et atténuent les risques. En fin de compte, vous voulez permettre l’innovation tout en établissant les garde-fous qui protègent les citoyens. »

Au-delà des réglementations, les créateurs de modèles d’IA doivent se poser les bonnes questions éthiques. Gardons-nous l’humain au centre ? Avons-nous un groupe diversifié d’esprits à la table de conception ? Qui aidons-nous ? Mais aussi, qui pourrait être blessé ? Les données et l’IA peuvent-elles conserver un biais historique ? Et enfin, devrions-nous faire quelque chose simplement parce que nous le pouvons ? « Ces considérations éthiques doivent être présentes dès la conception d’une idée jusqu’au processus de R&D, au déploiement et au suivi des résultats du modèle. »

Pratique d’éthique des données SAS

Lorsque la réglementation fournit le cadre d’une utilisation responsable de l’IA, une collaboration entre les développeurs et les utilisateurs est également requise. Des principes bien définis sont nécessaires pour guider les politiques d’une entreprise. « Pour SAS, ces principes sont l’humain, l’inclusivité, la responsabilité, la robustesse, la transparence, la confidentialité et la sécurité, énumère Reggie Townsend. Les créateurs d’IA ont également un rôle à jouer pour faciliter une IA responsable en créant des plates-formes fiables que les consommateurs peuvent utiliser pour créer des applications fiables qui répondent aux exigences réglementaires. Étant donné que de nombreux résultats négatifs découlent simplement d’un manque de sensibilisation, il est tout aussi important d’éduquer les organisations et les personnes sur les bonnes pratiques en matière d’IA. »

C’est dans ce contexte que la SAS Data Ethics Practice a été créée pour permettre aux employés, aux clients et à la communauté analytique au sens large de créer des systèmes basés sur les données qui favorisent le bien-être humain et l’équité. La pratique comprend des scientifiques des données et des spécialistes du développement commercial qui collaborent étroitement avec les créateurs de technologies d’IA.

« En fin de compte, une IA responsable nécessitera un changement culturel majeur, conclut Reggie Townsend. Et donc d’inclure une réglementation intelligente, un véritable engagement des utilisateurs et des créateurs d’IA et, enfin, des plateformes d’IA fiables qui inspirent confiance. »