Cisco AI Defense fournit des défenses pour les environnements multimodèles
Cisco AI Defense aborde deux défis majeurs : sécuriser le développement et le déploiement des applications et protéger l’accès aux applications d’IA. Un vrai garde-fou.
L’IA devenant omniprésente, les entreprises l’utilisent de plus en plus en développant des applications basées sur l’IA. Les développeurs ont besoin d’un garde-fou de sécurité adapté à toutes les applications. Cisco AI Defense leur permet de protéger les systèmes d’IA contre les attaques, en garantissant un comportement sécurisé des modèles sur toutes les plateformes.
« Aujourd’hui, seules 29 % des organisations se sentent pleinement équipées pour détecter et empêcher toute altération non autorisée de l’IA, assure Matteo Quattrocchi, Head of EU AI Policy, Cisco. Avec l’IA, les risques émergents ciblent différentes étapes du cycle de vie de l’IA, tandis que la responsabilité incombe à différents propriétaires, notamment les développeurs, les utilisateurs finaux et les fournisseurs. »
Sécuriser la technologie tout au long de son cycle de vie
Les entreprises utiliseront et développeront des centaines, voire des milliers d’applications d’IA. Ce qui accroît les risques. Les utilisateurs finaux se précipitent pour améliorer la productivité, exposant potentiellement leurs organisations à des fuites de données ou à l’empoisonnement de données propriétaires.
Lorsqu’elles adoptent l’IA, les entreprises ne devraient pas avoir à choisir entre rapidité et sécurité, estime Matteo Quattrocchi. « Nous sécurisons la technologie tout au long de son cycle de vie et sans compromis. » Déjà, contrairement aux garde-fous intégrés à des modèles individuels, Cisco AI Defense fournit des défenses pour les environnements multimodèles.
Talos, Splunk…
La solution s’auto-optimise grâce aux modèles d’apprentissage propriétaires de Cisco pour détecter les menaces grâce aux données collectées par Cisco Talos. Les clients Splunk qui utilisent AI Defense recevront des alertes enrichies avec un contexte supplémentaire provenant de l’ensemble de l’écosystème. AI Defense repose sur Security Cloud, la plateforme interdomaines de sécurité unifiée et pilotée par l’IA de Cisco.
« Cisco AI Defense est spécifiquement conçu pour sécuriser le pipeline de l’IA, allant du développement au déploiement, ainsi que les applications et les services qui en découlent », précise encore Matteo Quattrocchi. De fait, les risques liés à l’IA présentent des défis de sécurité nouveaux et complexes, les applications d’IA étant souvent multimodèles et multiclouds. Les vulnérabilités peuvent survenir à différents niveaux, celui des modèles ou celui des applications, et la responsabilité est partagée entre les développeurs, les utilisateurs finaux et les fournisseurs. À mesure que les entreprises transmettent des données publiques à l’entraînement des modèles sur des données propriétaires, les risques augmentent considérablement.
Intégration à Cisco Security Cloud
Cisco AI Defense agit à différents niveaux. Tout d’abord, la solution permet une détection automatisée des applications d’IA, qu’elles soient approuvées ou non, opérant dans des environnements cloud publics ou privés. Elle propose également une validation des modèles afin d’identifier et de corriger les vulnérabilités potentielles. Ces ajustements sont automatisés. Enfin, la sécurité d’exécution assure une protection continue contre des menaces telles que l’injection rapide (ou « prompt injection », l’action d’injecter des prompts trompeurs pour contourner les la sécurité), les dénis de service ou encore les fuites de données sensibles.
En ce qui concerne la protection des accès aux applications d’IA, Cisco AI Defense se charge d’empêcher les fuites de données et l’altération des informations propriétaires. AI Defense garantit une visibilité complète sur les applications d’IA utilisées par les employés, qu’elles soient autorisées ou non. De plus, elle permet la mise en œuvre de contrôles d’accès rigoureux, limitant l’utilisation des outils non approuvés. Enfin, la solution comporte une prévention constante contre les pertes de données sensibles et les menaces émergentes, tout en assurant la conformité aux réglementations en vigueur.
AI Defense s’intègre sans couture aux flux de données existants, elle repose sur la Security Cloud, la plateforme de sécurité unifiée, pilotée par l’IA et interdomaines de Cisco. Grâce à son vaste réseau de points d’application, Cisco assure une sécurité au niveau du réseau, de manière unique et optimisée. Disponibilité en mars.
