Du jeu vidéo à l’IA, deux questions de responsabilité pour le Comité d’éthique de la défense

Comment garder conscience des conséquences d’un acte lorsque l’écran reprend les codes du jeu vidéo ? Catherine Vautrin a confié cette question au Comité d’éthique de la défense le 12 novembre, avec un second sujet sur la capacité des systèmes d’intelligence artificielle à respecter les instructions et les règles qui encadrent l’action militaire.

Publié le
Lecture : 2 min
Du jeu vidéo à l’IA, deux questions de responsabilité pour le Comité d’éthique de la défense © Armees.com

Comment garder conscience des conséquences d’un acte lorsque l’écran reprend les codes du jeu vidéo ? Catherine Vautrin a confié cette question au Comité d’éthique de la défense le 12 novembre, avec un second sujet sur la capacité des systèmes d’intelligence artificielle à respecter les instructions et les règles qui encadrent l’action militaire.

Pour son troisième mandat, le Comité d’éthique de la défense conserve son président, Bernard Pêcheur, et accueille treize nouveaux membres. Parmi eux, le général Pierre Schill, ancien chef d’état-major de l’armée de Terre, prend la vice-présidence. En annonçant cette nouvelle mandature, la ministre des Armées et des Anciens combattants lui a demandé d’examiner deux situations où la responsabilité d’une personne risque de devenir difficile à discerner derrière une interface.

Ce qu’un écran laisse percevoir de l’acte réel

Le premier chantier porte sur la « ludification du combat ». Par cette expression, la ministre désigne l’entrée de codes familiers du jeu vidéo dans l’activité militaire. Sa question concerne autant le soldat que son chef. Quelles précautions permettraient à chacun de conserver, face à un écran, la conscience de la portée réelle de ses actes ?

L’objet de la saisine mérite d’être précisé. Elle invite à étudier une manière de représenter l’action et les effets qu’elle peut avoir sur le jugement. Elle ne conclut pas à un effet établi des jeux sur le comportement des militaires. La différence importe pour les utilisateurs et pour le commandement. Reconnaître immédiatement un symbole à l’écran et mesurer ce qu’il représente dans le monde réel relèvent de deux exercices distincts.

Quand un système poursuit un objectif confié par un humain

Le second sujet concerne les intelligences artificielles dites « agentiques ». Un tel système peut enchaîner plusieurs tâches pour poursuivre un objectif donné. La question soumise au comité est celle de son alignement. Comment s’assurer que l’action qui en résulte demeure fidèle à l’intention du responsable militaire et aux règles auxquelles ce responsable est lui-même soumis ? L’enjeu porte donc à la fois sur le sens de la consigne et sur les limites qui continuent de s’imposer pendant son exécution.

Le comité a déjà consacré un avis à l’usage des technologies d’intelligence artificielle par les forces armées. La nouvelle demande resserre le sujet autour d’une difficulté précise. Entre le moment où une personne énonce un objectif et celui où elle prend connaissance du résultat, plusieurs choix peuvent avoir été délégués au système. C’est cette distance entre intention et exécution que la ministre demande d’examiner.

Installé en janvier 2020, le Comité d’éthique de la défense réunit des personnalités civiles et militaires de disciplines différentes, parmi lesquelles le droit, la médecine et l’ingénierie. Son rôle consiste à éclairer les autorités politiques et militaires par des avis et des recommandations. Le lancement de ces deux travaux ouvre ainsi une délibération. Les garde-fous que le comité jugera nécessaires restent à formuler.

Laisser un commentaire

Share to...