L’intelligence artificielle, composante majeure du cyberespace

Le cyberespace est un lieu de communication et d’échanges entièrement créé par l’humain. Il est devenu un champ de confrontation à part entière et est adhérent aux progrès technologiques. Ceux-ci se matérialisent régulièrement par des innovations de rupture, comme l’informatique quantique, les technologies immersives et l’intelligence artificielle (IA).

A ce titre, l’IA, en tant que système d’information, est une composante majeure du cyberespace. Au sein du ministère des Armées, le choix a été fait de disposer, d’une part, d’un expert technique (incarné par l’Agence ministérielle pour l’IA de défense et la Direction générale de l’armement), et d’autre part, d’un expert du combat dans le milieu, le COMCYBER.

Le combat cyber est transformé par l’intelligence artificielle

Le champ de bataille cyber est transformé par l’IA : elle renforce la défense, mais aussi l’attaque, tout en impactant également fortement la lutte informatique d’influence.

Ce qui l’IA apporte comme opportunités à la cyberdéfense :

• Optimisation des processus de lutte informatique défensive, recherche de failles automatisée, traitement de masse des données… : la défense des systèmes d’information et systèmes d’armes est rendue plus efficace et la réactivité face à un incident est améliorée ;
• Dans le champ informationnel, la capacité de détection et caractérisation des campagnes d’influence numérique adverses est renforcée.

Ce que l’IA apporte comme menaces dans le cyberespace :

• Niveau technique nécessaire plus faible, automatisation totale ou partielle des cyberattaques… : les cyberattaques deviennent plus abordables pour les adversaires ;
• Génération de deepfakes (hypertrucages) de plus en plus sophistiqués et difficiles à distinguer, production de contenus élaborés et variés (contrairement au « bot » qui reproduisait un message unique) … : la production de discours crédibles de désinformation est facilitée pour les adversaires.

Penser la défense de l’IA en même temps que son déploiement

L’IA est un système d’information comme un autre. Il est donc nécessaire de la protéger et de la défendre, particulièrement au sein des armées.

Les adversaires pourraient être tentés de mener des attaques dites « adversariales » visant à corrompre les données utilisées par l’IA ou son modèle. Les réponses de l’IA seraient ainsi moins efficaces, voire faussées.

L’intégration d’outils d’IA dans la conduite de la guerre impose donc que ceux-ci soient dignes de confiance, c’est-à-dire qu’ils soient traçables et explicables. Pour cela, leur sécurisation doit être pensée en amont (« by design ») et dans le cadre de la politique globale de sécurisation des systèmes des armées.

Trois enjeux majeurs de sécurisation de l’IA :

• Les données employées par l’IA : chiffrement des données, sécurisation des méthodes de stockages… (« datalakes » - lacs de données) ;
• Les modèles d’IA : tests, homologation, recours à des briques techniques éprouvées, protocoles de « machine learning » (apprentissage automatique) ;
• Le code de l’IA : librairies de code fiables.

L’IA peut bouleverser les équilibres stratégiques du cyberespace

D’un côté, en se démocratisant, l’IA va permettre à plus de pays, souvent moins avancés, de porter des cyberattaques. De l’autre côté, en cas de domination majeure d’un État sur l’IA, il pourrait prendre un ascendant déterminant sur les autres à travers un tempo accéléré des opérations, des cyberattaques trop sophistiquées ou de trop fortes ampleur pour les défenses. En ce sens, l’IA peut venir redessiner la carte des grandes puissances cyber.