Les organisation militaires aussi font leur transformation numérique. Ainsi l’Organisation du Traité de l’Atlantique Nord (OTAN) a annoncé cette semaine qu’elle allait adopter une stratégie d’Intelligence Artificielle et lancer un fonds d’1 milliard de dollars pour « anticiper l’avenir ». Rappelons que le Canada est l’un des membres fondateurs de l’OTAN depuis 1949, ces annonces nous concernent donc au premier plan.
Une course aux nouvelles technologies, avec éthique et collaboration
Lors d’une conférence de presse, le secrétaire général de l’OTAN, Jens Stoltenberg, a déclaré que cet effort était une réponse à « la course des régimes autoritaires pour développer de nouvelles technologies ». Selon lui « Les conflits futurs seront combattus non seulement avec des balles et des bombes, mais aussi avec des octets et des big data. Nous devons conserver notre avance technologique. »
La stratégie de l’OTAN en matière d’IA couvrira des domaines tels que l’analyse de données, l’imagerie et la cyberdéfense. L’OTAN a aussi précisé en juillet que l’utilisation de l’IA serait au cœur de sa stratégie de défense et que son utilisation respecterait les règles d’éthique. Une plateforme sera fournie aux alliés de l’OTAN pour tester leurs propres IA afin de vérifier qu’elles répondent aux standards de l’OTAN. En effet, dans sa stratégie d’IA l’OTAN insiste sur l’importance de la collaboration et la coopération entre ses membres.
Concernant ces initiatives de coopération, le 30 novembre prochain aura lieu le « Défi d’innovation de l’OTAN – Automne 2021 – contre la guerre cognitive ».
Les principes d’une utilisation responsable de l’IA
Sur la base des approches de ses membres et des pratiques pertinentes au niveau mondial, l’OTAN a établi ces principes pour une utilisation responsable de l’intelligence Artificielle. (Extrait de la stratégie d’IA de l’OTAN publié le 22 octobre 2021. Disponible pour le moment en Anglais et Ukrainien, nous en fournissons donc notre propre traduction en Français):
- Légalité : Les applications d’IA seront développées et utilisées conformément au droit national et international, y compris le droit international humanitaire et les droits de l’homme.
- Responsabilité et redevabilité : Les applications d’IA seront développées et utilisées avec des niveaux appropriés de jugement et d’attention ; une responsabilité humaine claire s’appliquera afin de garantir la redevabilité.
- Explicabilité et traçabilité : Les applications d’IA seront compréhensibles et transparentes, notamment par l’utilisation de méthodologies de revues, ainsi que des sources et procédures. Cela inclut des mécanismes de vérification, d’évaluation et de validation au niveau de l’OTAN et/ou au niveau national.
- Fiabilité : Les applications d’IA auront des cas d’utilisation explicites et bien définis. La sûreté, la sécurité et la robustesse de ces capacités feront l’objet d’essais et d’assurances dans le cadre de ces cas d’utilisation, tout au long de leur cycle de vie, notamment par le biais de procédures de certification établies au niveau de l’OTAN et/ou au niveau national.
- Gouvernabilité : Les applications d’IA seront développées et utilisées conformément à leurs fonctions prévues et permettront : une interaction homme-machine appropriée ; la capacité de détecter et d’éviter les conséquences involontaires ; et la capacité de prendre des mesures, telles que le désengagement ou la désactivation des systèmes, lorsque ces systèmes présentent un comportement non souhaité.
- Atténuation des biais : Des mesures proactives seront prises pour minimiser tout biais involontaire dans le développement et l’utilisation des applications d’IA et dans les jeux de données.
Les Etats-Unis renforcent leurs budgets en cybersécurité
Le contexte de ces démarches d’ouverture de l’OTAN est important. En effet, Nicolas Chaillan, un haut responsable de la cybersécurité au Pentagone, a démissionné début septembre en signe de protestation en raison de la lenteur du développement technologique au sein du ministère. Cet ancien responsable des logiciels de l’armée de l’air a déclaré aux médias que les États-Unis n’avaient « aucune chance de battre la Chine » dans les 15 à 20 ans, qualifiant l’IA et les cyberdéfenses de certaines agences gouvernementales de « niveau maternelle ».
En 2020, le ministère américain de la Défense (DoD – Department of Defense) a lancé le partenariat d’IA pour la défense, qui regroupe 13 pays d’Europe et d’Asie pour collaborer à l’utilisation de l’IA dans le contexte militaire. Plus récemment, le département a annoncé qu’il prévoyait d’investir 874 millions de dollars l’année prochaine dans les technologies liées à l’IA dans le cadre du budget militaire de recherche scientifique et technologique de 2,3 milliards de dollars.
Une grande partie des dépenses du DoD provient du Joint Artificial Intelligence Center (JAIC) de Washington, une organisation gouvernementale qui explore l’utilisation et les applications de l’IA en situation de combat. Selon une analyse de l’éditeur Deltek, le DoD a mis de côté 550 millions de dollars d’obligations en matière d’IA attribuées au top 10 de ses sous-traitants et la défense a représenté 37 % des dépenses totales en IA du gouvernement américain, dont bénéficient les sous-traitants.
Exemples de projets technologiques militaires
Ainsi, Lockheed Martin a reçu $106 millions en 2020 pour une initiative de « cyber radar » utilisant l’Intelligence Artificielle. Des entreprises du secteur des technologies, comme Concur, Microsoft, et Dell ont signé avec le Service de l’immigration et des douanes des États-Unis. Amazon et Microsoft sont en compétition autour du contrat JEDI (Joint Enterprise Defense Infrastructure) du ministère de la défense, d’un montant de 10 milliards de dollars, qui a été annulé en juillet après que le Pentagone a lancé un nouveau projet multifournisseur. Les fournisseurs de solutions d’apprentissage automatique, de vision par ordinateur et de reconnaissance faciale, dont TrueFace, Clearview AI, TwoSense et AI.Reverie, ont également des contrats avec diverses branches de l’armée américaine.
En octobre, Palantir a remporté la majeure partie d’un contrat de 823 millions de dollars pour fournir à l’armée américaine des logiciels d’analyse de données et big data. Et en juillet, Anduril a déclaré avoir reçu un contrat d’une valeur maximale de 99 millions de dollars pour fournir à l’armée américaine des drones destinés à contrer les drones hostiles ou non autorisés.
Mais l’OTAN doit aligner ses membres sur le sujet de l’IA dans la défense. Les États-Unis et d’autres pays, dont la France et le Royaume-Uni, ont développé des technologies d’armes autonomes, mais des membres comme la Belgique et l’Allemagne ont exprimé des inquiétudes quant aux implications de ces technologies.
