Placé sous la devise "Se protéger, se défendre", le défi, organisé conjointement par l’Agence de l’innovation de Défense (AID) et le commandement de la cyberdéfense (COMCYBER), s’est tenu en présence du général de corps d’armée Aymeric Bonnemaison, commandant de la cyberdéfense et de l’ingénieur général de l’armement, Patrick Aufort, directeur de l’Agence de l’innovation de Défense (AID), en présence d’experts de l’Agence ministérielle pour l’IA de défense (AMIAD) ainsi que de la Direction générale de l'armement (DGA).

L’intelligence artificielle, enjeu majeur pour les forces armées et système d’information indispensable, nécessite une sécurisation adaptée. Le Commandement de la cyberdéfense (COMCYBER) s’est donc engagé aux côtés de l’Agence de l'innovation de Défense (AID) dans ce défi innovant. Il vise à identifier et évaluer l’intérêt de technologies permettant de se protéger et de détecter des attaques sur les systèmes incluant l’IA.

Au total, plus d’une dizaine de partenaires (laboratoires, start-ups, PME, ETI ou grands groupes) ont rivalisé afin de proposer plusieurs solutions innovantes. Deux d’entre eux se sont particulièrement distingués et ont été primés par le jury, composé notamment du COMCYBER et de l’AID, d’experts de l'AMIAD et de la DGA.

Suite d’outils BET ("Behavior Elicitation Tool")

La suite d’outils BET, développée par la société PRISM EVAL, vise à sécuriser les LLMs (large language models). Ces modèles sont par exemple utilisés pour des chatbots à base d’IA comme Le Chat, Chat GPT ou GenIAl.intradef, l’outil interne du ministère des Armées. 

La PME a ainsi développé un premier outil, BET Eval, pour tester la robustesse des LLMs, en s’appuyant sur une approche innovante à base de combinaison de primitives comportementales d'attaques, qui permet d’adresser un large panel d’attaques. 

PyRAT et PARTICUL

Les solutions du CEA-List, elles, se concentrent sur les attaques des adversaires visant, en modifiant les données d’entrée, à provoquer une mauvaise réponse d’un système à base d’IA, par exemple un système de classification d’images. 

Ce défi illustre la volonté des acteurs de l’innovation au sein du ministère des armées de soutenir les initiatives d'innovation nécessaires à la conduite de la guerre.