Intelligence artificielle et cyberdéfense : quels enjeux ?

La montée en puissance de l'intelligence artificielle (IA) offre de nouvelles opportunités et soulève de nombreuses interrogations au sein de la société. Mais quels sont ses effets sur la cyberdéfense ? Quelle est la fiabilité et le niveau de sécurité de l’intelligence artificielle ? Quelle sera la place de l’intelligence artificielle dans la lutte informationnelle ?  

En travaillant en commun avec les chercheurs et les industriels, le Commandement de la cyberdéfense se donne les moyens de rester à la pointe de l’expertise. 

Plonger dans les enjeux de l’intelligence artificielle en cyberdéfense à travers ce séminaire met en lumière les effets que celle-ci pourrait avoir sur l’efficacité des actions menées par les armées, dans la cyber. 

Intelligence artificielle, de quoi parle-t-on ?

Frédérique SEGOND, directrice de la Mission Défense et Sécurité d'Inria, est venue poser les bases de ce qu’est l’IA et dresser les grandes perspectives du domaine. L’histoire de l'intelligence artificielle, de ses origines philosophiques et poétiques jusqu’à son développement en tant que discipline scientifique et technologique majeure, a été explorée. Cette première prise de parole a mis en évidence la manière dont l'IA a évolué depuis le projet de Dartmouth. Elle est passée de simples concepts abstraits à des applications concrètes, en particulier dans le domaine de la traduction automatique, et a connu un renouveau d'intérêt depuis quelques années.

Fiabilité, confiance, éthique : quelle sécurité des intelligences artificielles ?

Pour la 1^ère table ronde de ce séminaire, la fiabilité et la sécurité des systèmes d’intelligence artificielle étaient au cœur des discussions. Les experts ont souligné la nécessité de construire des intelligences artificielles fiables et de confiance, capables de faire face aux défis posés par des attaques sophistiquées, notamment les cyberattaques et les attaques dites « adversariales ».

L'éthique a également été un sujet de discussion important. Une attention particulière a été portée à la manière dont l'intégration de critères arbitraires dans les décisions algorithmiques peut conduire à des discriminations. Les participants ont noté que l'intelligence artificielle doit être transparente, prévisible et équitable pour préserver la confiance des utilisateurs.

Désinformation, lutte informationnelle : les IA vont elles nous sauver ?

Le séminaire a également exploré le rôle de l'IA dans la lutte contre la désinformation, soulignant son utilité significative en appui de l’humain. Selon les experts, bien qu'efficace dans certains cas, l'intelligence artificielle seule ne peut détecter toutes les fausses informations ou intentions malicieuses. L'importance de l'aspect humain dans la compréhension et la communication a été mis en évidence, avec un accent particulier sur les nuances paralinguistiques et la psychologie. En conclusion, l’intelligence artificielle a été considérée comme un outil d'assistance important en matière d'opérations informationnelles, mais ne pouvant remplacer le jugement et l'expertise humains.

Les intelligences artificielles, un démultiplicateur d’effets pour la cyberdéfense ?

Cette dernière table ronde a mis en lumière que l'intelligence artificielle peut à la fois renforcer et défier la cyberdéfense. D'une part, les experts notent qu’elle permet d'optimiser et d'automatiser la défense, en améliorant la résilience des composants et en accélérant la réponse aux incidents. D'autre part, selon eux, l'émergence de l’intelligence artificielle générative faciliterait et rendrait plus abordable les actions malveillantes dans le cyberespace, réduisant les barrières à l'entrée.