Saisi par le ministre des Armées, Sébastien Lecornu, dans le cadre de la montée en puissance de l’intelligence artificielle (IA) au sein du ministère des Armées, le Comité d’éthique de la défense a récemment formulé une série de recommandations sur l’intégration de l’IA dans les systèmes militaires. 

En ressort une thèse principale : pour une utilisation éthique de l’IA pour notre défense, celle-ci doit être maîtrisée souverainement. Une conclusion qui rejoint la stratégie voulue par le ministre à travers la création de l’Agence ministérielle pour l’IA de défense et la commande d’un supercalculateur classifié pour traiter souverainement les données du ministère.

Ces technologies ouvrent, en effet, de nouvelles perspectives tout en soulevant des questions éthiques. Le Comité a donc formulé 9 principes et 12 recommandations. Ils visent à encadrer l’utilisation de l’IA militaire, avec un accent particulier sur la maîtrise des risques et la responsabilité humaine. Focus sur ces recommandations.

1. La première recommandation du Comité porte sur l’adaptation des modalités de contrôle entre ce qui est licite et ce qui ne l’est pas, en fonction des spécificités des technologies d’IA utilisées dans les systèmes d’armement. L'objectif : garantir que ces outils respectent les principes du droit international humanitaire et éviter toute dérive éthique dans des contextes de guerre, où l’automatisation des décisions pourrait poser des problèmes.
2. En parallèle, le Comité recommande une évaluation rigoureuse et proportionnée des systèmes d’IA, prenant en compte les bénéfices qu’ils offrent et les risques qu’ils induisent. Il s’agit d’éviter une adoption précipitée de technologies qui pourraient représenter des dangers pour la sécurité, tout en tenant compte de l’impact stratégique sur les capacités militaires.
3. L’importance de maîtriser les données utilisées pour l’entraînement des IA est également mise en avant. Le Comité insiste sur la nécessité de garantir l'autonomie et la souveraineté des données, tout en préservant l’interopérabilité avec les alliés. La maîtrise des données, à la fois pour des raisons de sécurité et de souveraineté, est considérée comme un investissement essentiel pour la défense.
4. Le volet formation occupe également une place centrale dans les recommandations. Le Comité plaide pour une sensibilisation accrue des militaires aux risques associés à la sécurité des systèmes d’information. Cette démarche vise à prévenir les cyberattaques et à renforcer la résilience face à des menaces potentielles.
5. La cinquième recommandation soulève l’importance d’adapter les technologies d’IA aux conditions réelles des opérations militaires. Des études d’ergonomie doivent être menées pour tenir compte des situations dégradées, garantissant ainsi que les systèmes demeurent fiables et efficaces même dans des contextes difficiles.
6. Une flexibilité dans l'automatisation des systèmes est également préconisée. Les IA utilisées dans les opérations militaires devront permettre au commandement de moduler le degré d’automatisation selon les circonstances, préservant ainsi la capacité humaine de décision dans les moments critiques.
7. Par ailleurs, la transparence des systèmes et la responsabilité humaine doivent être clairement définies. Le Comité appelle à formaliser les chaînes de responsabilité au sein des processus de commandement, de contrôle et d’exécution, en particulier lorsque des IA interviennent dans les décisions militaires. Cela inclut la définition des responsabilités des industriels, des programmeurs, des utilisateurs et des décideurs, afin que chacune des parties puisse assumer ses actions en cas de recours à la force.
8. Le retour d’expérience est également crucial : le Comité recommande de sensibiliser les opérateurs à la nécessité d’apprendre des erreurs et des réussites des systèmes IA, dans un souci de constante amélioration. Cela inclut la mise en place de mécanismes pour analyser les incidents et les échecs liés à ces technologies.
9. Enfin, le Comité suggère de mener des études approfondies sur l'impact à long terme des technologies d’IA sur les organisations militaires. Comprendre les effets de l’IA sur la structure et les dynamiques des armées, ainsi que sur les interactions entre les soldats et les machines, est crucial pour anticiper les évolutions futures.

Au-delà des aspects techniques, ces recommandations visent à garantir une utilisation adaptée et éthique des technologies d’intelligence artificielle dans les armées. Elles cherchent à équilibrer innovation technologique et responsabilité humaine, afin de s'assurer que l'IA serve les intérêts stratégiques et sécuritaires des armées tout en respectant les principes fondamentaux de maîtrise et de contrôle.