L’intelligence artificielle en guerre : analyse éthique et décision opaque

Cet article examine les liens entre le vide de responsabilité, l’intelligence artificielle et l’éthique de la guerre. Tout d’abord, il abordera les analyses de Rowe (2022) sur la validité des principes de l’éthique de la guerre à l’époque de l’intelligence artificielle. Ensuite, il traitera les problèmes étudiés par Sharkey (2019), notamment la sélection autonome des cibles et la question de la dignité humaine. Dans une troisième partie, le problème du vide de responsabilité formulé par Matthias (2004) sera étudié moins sous un angle juridique que dans sa dimension philosophique et éthique. L’objectif de ce travail n’est pas de proposer une nouvelle théorie éthique, mais de mettre en évidence les lacunes éthiques actuelles autour de ces questions.

Savaşta yapay zekâ: etik bir inceleme ve karanlık karar kavramı

Bu makale, sorumluluk boşluğu, yapay zekâ ve savaş etiği arasındaki felsefi boşlukları incelemektedir. İlk olarak savaş etiği uzlaşılarının yapay zekâ çağında ne kadar geçerli olduğuna dair Rowe (2022)'un incelemelerine değinilecek, daha sonra Sharkey (2019)'nin ele aldığı; hedeflerin otonom olarak seçilmesi ve insan onurunu ele alacak. Üçüncü kısımda ise Matthias (2004)'ın sorumluluk boşluğu problemini hukuksal açıdan çok, daha felsefi etik boyutlarıyla inceleyecektir. Bu çalışmanın niyeti bahsedilen konulardaki güncel etik boşlukları gözler önüne sermektir.

Utku Özcan Yetkin

Galatasaray Üniversitesi Felsefe Bölümü Öğrencisi

Mots-clés : Intelligence artificielle, éthique de la guerre, vide de responsabilité morale, systèmes d’armes autonomes, dignité humaine, contrôle humain significatif, décision opaque

Anahtar kelimeler: Yapay zekâ, savaş etiği, ahlaki sorumluluk boşluğu, otonom silah sistemleri, insanlık onuru, anlamlı insan kontrolü, karanlık karar

Introduction

   L'entrée de l'intelligence artificielle dans le domaine militaire ne bouleverse pas seulement la guerre sur le plan technique, elle en ébranle les fondements mêmes. Le débat sur l'automatisation des systèmes d'armes n'est certes pas nouveau, mais le fait que des algorithmes soient désormais capables de prendre des décisions de manière autonome repose d'anciennes questions avec un poids tout à fait inédit : est-il moralement défendable de confier à une machine la décision d'ôter la vie à un être humain ?

   Rowe (2022), Sharkey (2019) et Matthias (2004) ont mis en lumière deux grandes préoccupations qui structurent ce débat. La première est d'ordre technique : jusqu'où peut-on faire confiance à ces systèmes ? Mais d'autres, peut-être plus fondamentales encore, demeurent sans réponse : à quel étalon moral juger la décision létale rendue par un système non humain ? Qui devra rendre des comptes lorsqu'une erreur sera commise, lorsqu'un abus aura lieu ? Et sur quelle base philosophique, au-delà des intérêts politiques du moment, pourrait-on bâtir une régulation internationale digne de ce nom ?

   C'est précisément là que ce travail choisit de s'arrêter et de prendre ces questions au sérieux. Notre propos n'est ni de défendre aveuglément la technologie, ni de la condamner par principe. Il s'agit plutôt d'examiner honnêtement, en distinguant le factuel du normatif, les arguments qui plaident pour ou contre l'intégration de l'IA dans les décisions d'usage de la force létale. Deux choses nous importent : clarifier dans quelles conditions (si tant est qu'il en existe) le recours à l'IA en temps de guerre pourrait être justifié et comprendre sur quels fondements cohérents une régulation internationale pourrait, un jour, être construite.

  C'est ce paradoxe qui est au cœur de ce travail. Non pas simplement : qui est juridiquement imputable ? Mais quelque chose de plus vertigineux : l'intelligence artificielle, en s'interposant entre l'humain et la décision de tuer, ne détruit-elle pas les conditions mêmes qui rendent la responsabilité morale possible ?

  La littérature s'est beaucoup penchée sur la fiabilité des systèmes, leur compatibilité avec le droit international humanitaire, les mécanismes d'imputabilité à construire. Tout cela est nécessaire. Mais ces réponses présupposent que the responsability gap développé par Andreas Mathias occupe une place centrale. Selon Mathias (2004), certains systèmes autonomes agissent seuls et il devient difficile de savoir qui est vraiment responsable de ses actions.

 Expliquées par leurs utilisateurs. Leurs programmeurs ont créé le système, mais ils n’ont pas toujours prévu toutes ses actions. Le commandant peut utiliser la machine, mais il ne contrôle pas forcément toutes les actions. Ainsi, lorsqu’une IA militaire fait une grande erreur, la responsabilité morale devient floue. On ne sait plus clairement à qui causer la faute : l’ingénieur, le soldat, le commandant, l’État ou la machine elle-même.          

  Et pourtant, au moment de désigner un responsable, on se retrouve face à un vide troublant. L'ingénieur qui a écrit le code ? Il n'était pas sur le terrain. Le commandant qui a déployé le système ? Il n'a pas appuyé sur la gâchette. L'État qui a tout autorisé ? Il invoquera des procédures, des validations faudrait d'abord démontrer : qu'il existe encore, quelque part dans la chaîne, un sujet moral capable d'assumer ce qu'une machine a décidé. Or c'est précisément cette présupposition que nous voulons interroger.

  Ce travail ne propose pas de redistribuer la responsabilité entre différents acteurs. Il pose une question plus radicale : et si la guerre assistée par l'IA rendait cette redistribution elle-même illusoire.

Les principes classiques de l’éthique de la guerre à l'épreuve de l’IA

  Avant d’aborder la place de l’intelligence artificielle dans la guerre, il faut comprendre les théories fondamentales de l’éthique de la guerre. Par sa nature, la guerre est une situation où les limites éthiques deviennent très fragiles, voire parfois suspendues. Malgré cela, la tradition de la guerre juste cherche à préserver certaines limites morales. Selon cette tradition, l’usage de la force peut être considéré comme légitime seulement s’il respecte certains principes.

  Parmi ces principes, il y a d’abord l’idée que la guerre concerne les combattants et que les civils ne doivent pas faire partie du conflit. Selon ce principe, les civils ne peuvent pas être pris directement pour cible. Il existe également le principe de nécessité militaire, selon lequel la violence utilisée doit répondre à l’existence d’un objectif militaire légitime. De plus, selon le principe de proportionnalité, les moyens employés ne doivent pas causer des dommages excessifs par rapport à l’objectif militaire poursuivi.

  Ces principes constituent un consensus de base dans l’éthique de la guerre. Ils impliquent que, même en situation de conflit, tout n’est pas permis. La violence doit être justifiée, limitée et la responsabilité doit pouvoir être assumée par certains acteurs. Autrement dit, l’éthique classique de la guerre suppose l’existence d’une personne humaine capable de prendre des décisions et d’en assumer les conséquences. C’est précisément à ce niveau qu’apparaît l’un des problèmes posés par l’entrée de l’intelligence artificielle dans le domaine militaire.

  L’introduction de l’intelligence artificielle dans le domaine militaire crée des problèmes qui ne suppriment pas les principes de l’éthique de la guerre, mais qui créent des lacunes à l’intérieur de ces principes. Les principes de distinction, de proportionnalité et de nécessité militaire supposent qu’une décision puisse être comprise et contrôlée. Or, le problème principal des systèmes d’intelligence artificielle utilisés dans la guerre est celui de la transparence. Pour évaluer moralement une décision, il ne suffit pas de connaître la décision prise ; il faut aussi comprendre comment cette décision a été produite (Rowe, 2022).

  Cependant, des systèmes comme les réseaux de neurones artificiels reposent sur des calculs difficiles et complexes. Dans les systèmes qui fonctionnent avec des seuils de décision, une décision apparaît lorsqu’une certaine valeur est dépassée. La détermination de situations non numériques à partir de seuils numériques, ainsi que le manque de fiabilité de l’algorithme qui se trouve derrière ces décisions, soulèvent des débats éthiques concernant la définition de ces seuils et la question de savoir pourquoi un seuil particulier peut justifier une action militaire.

  Chez Rowe, le problème n’est pas que l’intelligence artificielle rende l’éthique de la guerre inutile, mais qu’elle en complique profondément l’application (Rowe, 2022). Dans ce contexte, l’évaluation éthique des outils d’intelligence artificielle varie selon les techniques qu’ils utilisent, et différents systèmes mettent à l’épreuve l’éthique classique de la guerre de différentes manières (Rowe, 2022). Par conséquent, il s’agit à la fois d’une question technique et d’une question éthique. Dans cette perspective, l’intelligence artificielle pousse les principes classiques de la guerre vers de nouvelles exigences.

La sélection autonome des cibles, le problème de la dignité humaine

À ce niveau, l’analyse de Sharkey (2019) devient importante. Dans l’article de Sharkey, la discussion porte sur un problème plus concret que la question de la transparence chez Rowe : les Systèmes d’Armes Autonomes (AWS). Sharkey définit ces systèmes comme des armes capables de sélectionner des cibles par elles-mêmes et de les attaquer. Selon lui, la véritable question éthique se situe dans leur autonomie, car elle concerne les opérations les plus critiques et les plus indispensables de la guerre : identifier une cible, l’évaluer et décider de l’usage de la force.

  Pour cette raison, le problème n’est pas, selon lui, la transparence de ces systèmes ni leur capacité à fonctionner efficacement, mais le fait de savoir s’ils sont compatibles avec la dignité humaine et, par conséquent, avec les droits humains. Il soutient que le fait de confier à une machine, plutôt qu’au jugement humain, la décision concernant la vie et la mort des êtres humains créerait une rupture éthique.

  Dans l’article de Sharkey, la dignité humaine occupe une place importante, mais il ne la traite pas de manière simple. Il nous montre également pourquoi ce concept est à la fois fort et ambigu. Selon lui, le problème de la dignité humaine dans les Systèmes d’Armes Autonomes (AWS) est que la machine décide de la poursuite de l’existence d’un être humain sans comprendre la valeur de sa vie. En effet, la machine ne peut pas comprendre la valeur de la vie humaine ni saisir la valeur morale de sa perte.

  Le sujet principal de cette dignité est la personne visée, c’est-à-dire la personne ciblée qui n’est pas reconnue comme un être humain possédant des droits et des valeurs humaines.     Cependant, Sharkey montre que cette dignité concerne également les personnes et les institutions au nom desquelles la force est utilisée. Si la décision est transférée à la machine, le jugement humain disparaîtra.

  Elle peut désigner une dignité universelle liée aux droits humains, mais aussi des formes plus concrètes de dignité liées à la souffrance, à l’humiliation, à la liberté ou au fait de ne pas être traité seulement comme un moyen. C’est pourquoi l’argument de la dignité humaine est important, mais il ne doit pas être utilisé seul : il doit être articulé avec les exigences de jugement humain, de contrôle humain significatif et de responsabilité morale. (Sharkey, 2018)

  À partir de cette discussion sur la dignité humaine, Sharkey met l’accent sur le jugement humain et le contrôle humain significatif. Le problème n’est pas seulement qu’un système d’arme autonome puisse commettre des erreurs, mais aussi que la décision soit centrée sur la machine plutôt que sur l’être humain. En effet, prendre une décision exige d’interpréter une situation, de prendre en compte le contexte, d’évaluer les conséquences humaines d’une action et d’assumer moralement ce choix.

  C'est la raison pour laquelle les machines ont tendance à montrer soit un excès de morale, soit une absence de morale. Même si cela constitue une caractéristique technique, le véritable problème n’est pas technique, mais déontologique. Même dans un système robotique techniquement parfait, la question de la dignité humaine reste ouverte : un acte de mise à mort qui n’est pas réellement contrôlé par un être humain peut-il être moralement acceptable ?

  Pour cette raison, le contrôle humain ne doit pas être compris seulement comme un élément formel ou comme un simple maillon du mécanisme de décision. Il exige une responsabilité assumée. Et pour qu’une responsabilité puisse être réellement assumée, il est nécessaire qu’il existe une capacité d’intervention élevée. (Sharkey, 2019)

  Dans cette partie, le contrôle humain significatif devient central. Un soldat, par exemple, ou un commandant n’est pas seulement chargé d’approuver une situation, mais aussi de la comprendre, d’analyser les actions proposées et de les juger d’un point de vue moral. Si nécessaire, il doit pouvoir rejeter la décision et agir en étant conscient de sa responsabilité.

Le vide de responsabilité morale dans l’usage militaire de l’IA

  Cela nous conduit à la théorie du vide de responsabilité de Matthias. Cependant, pour comprendre le vide de responsabilité formulé par Matthias, il faut d’abord partir de la conception classique de la responsabilité. Dans le cadre traditionnel, lorsqu’une machine cause un dommage, la responsabilité est généralement attribuée soit à l’opérateur, soit au fabricant. Si la machine fonctionne normalement, conformément à ce qui est prévu dans son manuel d’utilisation, l’opérateur est considéré comme responsable, car il a choisi d’utiliser la machine et d’en assumer les conséquences. En revanche, si le dommage résulte d’une erreur de conception ou de fabrication, la responsabilité appartient davantage au fabricant.

  Cette répartition repose sur une idée fondamentale : une personne ne peut être tenue responsable que si elle possède un certain contrôle sur l’action et sur ses conséquences. Selon Matthias, la responsabilité exige que l’agent connaisse les faits de la situation, puisse prendre une décision librement et puisse choisir entre plusieurs possibilités d’action. En d’autres termes, la responsabilité morale repose sur le lien entre la connaissance, le contrôle et le choix.

  Traditionnellement, lorsque la machine fonctionne normalement, l’opérateur est tenu responsable ; lorsqu’elle fonctionne de manière défectueuse, le fabricant est tenu responsable. Cependant, le fondement de cette attribution de responsabilité est que la personne dispose d’un contrôle suffisant sur l’action et sur ses conséquences. (Matthias, 2004)

  Ce qui affaiblit le modèle classique de responsabilité est précisément l’apparition des machines autonomes et apprenantes. Matthias explique que certaines machines ne sont plus limitées à l’exécution d’un programme fixe, déterminé une fois pour toutes par leurs concepteurs. Ces machines peuvent apprendre de leur environnement, modifier leurs propres paramètres et produire des comportements qui ne peuvent pas être entièrement prévus au moment de leur conception. (Matthias, 2004)

  Dans ce type de systèmes, l’action de la machine ne dépend pas seulement du programme initial, mais aussi de l’expérience qu’elle acquiert pendant son fonctionnement. La machine peut s’adapter à de nouvelles situations. Cette capacité augmente son efficacité, mais elle réduit également la capacité du programmeur, du fabricant ou de l’opérateur à prévoir exactement ses décisions futures. Le vide de responsabilité commence précisément à apparaître à partir de cette perte de prévisibilité et de contrôle.

  Le comportement de ces systèmes ne provient donc pas uniquement du programme fixé au départ ; l’interaction avec l’environnement et le processus d’apprentissage modifient leur comportement, ce qui réduit le contrôle du fabricant ou de l’opérateur. Il convient de préciser que Matthias a développé sa théorie du vide de responsabilité à partir des machines apprenantes et de l’apprentissage automatique. Toutefois, aujourd’hui, on peut dire que ce vide de responsabilité apparaît pleinement au cœur de l’utilisation de l’intelligence artificielle dans le domaine militaire. (Matthias, 2004)

  Le « fossé de responsabilité » décrit une situation philosophiquement troublante : une machine autonome produit un préjudice réel, mais il devient impossible de désigner clairement un responsable humain. Selon Matthias, ce problème tient au fait que la notion traditionnelle de responsabilité repose sur trois conditions : le contrôle, la prévisibilité et la capacité d'expliquer l'action. Lorsqu'une machine apprend, s'adapte et transforme son propre comportement au fil du temps, ces trois conditions s'effacent.

  Concrètement, l'opérateur peut soutenir qu'il n'a pas directement ordonné l'action en question. Le programmeur peut faire valoir que le système a évolué de manière autonome après sa mise en service, et qu'il ne peut donc plus être tenu pour responsable de ce comportement. Le fabricant, quant à lui, peut arguer que la machine n'a pas mal fonctionné au sens technique du terme, mais qu'elle a simplement réagi à son environnement selon ce qu'elle avait appris. Chacun peut, dans une certaine mesure, avancer des arguments légitimes. Et pourtant, le préjudice existe bel et bien.

  C'est précisément en ce point que s'ouvre le fossé de responsabilité : tenir un être humain pour entièrement responsable semble injuste, mais considérer la machine comme un véritable sujet moral n'est pas non plus philosophiquement défendable. Cette zone grise inconfortable est celle où les catégories classiques de responsabilité ne trouvent plus de réponse satisfaisante. Dès lors que le comportement d'un système autonome et apprenant ne peut plus être réduit à la volonté d'un individu identifiable, l'attribution traditionnelle de responsabilité devient insuffisante et ce vide n'est pas seulement technique : il est profondément moral.

  Lorsqu'une machine autonome sélectionne une cible, évalue une menace ou participe à une décision d'attaque, la nature du problème change radicalement. Il ne s'agit plus seulement d'un dommage matériel ou économique à réparer. Des êtres humains peuvent mourir. Et dans ce cas, la question n'est plus simplement de savoir qui devra indemniser les victimes. La question, bien plus grave, est la suivante : qui peut réellement rendre compte d'une décision létale produite par un système dont le comportement n'était pas pleinement prévisible ?

  Rendre compte, en effet, n'est pas la même chose que payer une réparation. Cela suppose de pouvoir dire : « C'est moi qui ai pris cette décision, je me suis trompé, j'en assume la responsabilité. » Or, face à une décision mortelle générée par un système qui agit à partir de ce qu'il a appris, personne ne peut honnêtement formuler cette phrase. L'opérateur a déployé le système, mais il n'a pas pris la décision. Le programmeur a conçu l'algorithme, mais il ne pouvait pas anticiper cette évaluation précise. Le fabricant a produit le système, mais il ne pouvait pas prévoir les conditions particulières du champ de bataille.

  C'est pourquoi le fossé de responsabilité dans l'usage militaire de l'intelligence artificielle ne constitue pas un simple problème juridique ou technique. Il révèle une crise morale plus profonde : dès lors que la décision engage des vies humaines, il devient très difficile de désigner quelqu'un qui puisse en répondre de manière authentique. Et ce n'est pas seulement parce que le système est opaque. C'est parce que, lorsque le comportement d'une machine autonome et apprenante ne peut être suffisamment anticipé ni par son fabricant ni par son opérateur, toutes les catégories traditionnelles d'attribution de responsabilité s'effondrent et la société se retrouve face à un fossé qui ne cesse de s'élargir.

Décision opaque

  Comme nous l’avons vu à travers ces situations, l’hypothèse fondamentale est que l’évaluation morale exige l’unité entre la décision et sa justification. Évaluer moralement une action nécessite de savoir non seulement ce qui a été fait, mais aussi pourquoi cela a été fait. La nature morale d’une action ne peut pas être déterminée lorsqu’elle est dépourvue d’intention et de justification. Autrement dit, l’évaluation morale = décision + accès à la justification. Si l’un de ces éléments manque, l’évaluation, comme il a été indiqué, devient non seulement difficile mais également impossible.

  Les systèmes d’intelligence artificielle présentés par Rowe produisent des décisions auxquelles il est impossible d’accéder complètement ; pour cette raison, elles ne peuvent pas être pleinement évaluées sur le plan éthique. Cela nous conduit au point suivant : une décision dont la justification ne peut pas être expliquée vide de leur substance les principes de l’éthique de la guerre (Aristotle, 2014).

  La question centrale de ce travail peut être formulée ainsi : la guerre assistée par l'intelligence artificielle permet-elle véritablement de redistribuer la responsabilité entre différents acteurs, ou bien rend-elle cette redistribution illusoire dès le départ ? Dit plus directement : le problème n'est pas seulement de savoir qui sera responsable en cas d'erreur. La question, bien plus profonde et plus dérangeante, est la suivante : dès lors que l'intelligence artificielle s'interpose entre l'humain et la décision létale, les conditions qui rendent possible une redistribution significative de la responsabilité ne disparaissent-elles pas elles-mêmes ? C'est là qu'intervient la notion de décision opaque. Une décision opaque n'est pas simplement une décision techniquement complexe ou difficile à expliquer. Elle désigne quelque chose de plus fondamental : une situation dans laquelle la raison pour laquelle une décision a été produite ne peut pas être suffisamment comprise, contrôlée ou discutée sur le plan moral par un être humain. Si un système d'IA sélectionne une cible, évalue une menace ou propose une attaque, la vraie question n'est pas de savoir si cette décision a produit le bon résultat. La vraie question est de savoir si l'on peut accéder au raisonnement qui a conduit à cette décision.

  Il faut donc distinguer soigneusement trois choses : la décision, la raison de cette décision, et l'accès à cette raison. La décision est le résultat concret produit par le système ,par exemple, la classification d'une cible comme dangereuse ou la proposition d'une attaque. La raison est le raisonnement qui explique pourquoi ce résultat a été produit. L'accès à la raison, c'est la capacité de l'humain à comprendre ce raisonnement, à le questionner et, si nécessaire, à arrêter la décision. C'est précisément à ce troisième niveau que la crise surgit du point de vue de l'éthique de la guerre. S'il n'y a pas d'accès à la raison, il devient difficile de dire que l'humain évalue vraiment la décision. Il est présent, mais pas dans la décision.   

  De là, un principe peut être dégagé : le principe de l'accès raisonné. Selon ce principe, pour qu'une décision militaire létale puisse faire l'objet d'une évaluation éthique, il ne suffit pas d'en connaître le résultat la raison qui a rendu cette décision possible doit également être accessible à un acteur humain. Un décideur humain ne devrait pas se réduire à la personne qui observe et approuve la sortie produite par le système. Il devrait pouvoir comprendre pourquoi cette décision a été produite, évaluer cette raison à la fois sur le plan moral et militaire, et, si nécessaire, l'arrêter. Sans cette condition, le contrôle humain cesse d'être un contrôle réel. Il devient un tampon institutionnel, un simple point de passage procédural.Ce cadre permet de réunir les analyses de Rowe, Sharkey et Matthias sur un terrain commun.

  L'insistance de Rowe sur la transparence montre que la décision doit pouvoir être techniquement expliquée. L'argument de Sharkey sur la dignité humaine et le contrôle humain significatif montre pourquoi confier la décision létale à la seule machine est problématique sur le plan humain et éthique. Le fossé de responsabilité de Matthias apparaît comme la conséquence naturelle de ces deux problèmes : si la raison de la décision n'est pas accessible, il devient impossible d'attribuer clairement la responsabilité morale de cette décision à un sujet humain identifiable.

  C'est pourquoi, dans la guerre assistée par l'IA, redistribuer la responsabilité entre l'ingénieur, le commandant, le soldat, l'État et les institutions ne suffit pas. Car cette redistribution repose sur une présupposition : que la décision reste compréhensible, contrôlable et assumable par un sujet humain. Or, dans le cas d'une décision opaque, c'est précisément cette présupposition qui s'effondre. L'ingénieur a conçu le système, mais il n'a peut-être pas pu anticiper la raison de cette décision précise. Le commandant a utilisé le système, mais il n'a peut-être pas réellement accès à son fonctionnement interne. L'État a approuvé le système, mais il n'est peut-être pas en mesure d'assumer la justification morale de cette décision létale concrète. Chacun est un maillon de la chaîne, mais personne n'en est le véritable sujet moral.

  C'est à ce point qu'il devient possible d'affirmer que la guerre assistée par l'IA ne rend pas tant possible la redistribution de la responsabilité qu'elle la rend illusoire. Car redistribuer la responsabilité n'a de sens que si la raison de la décision reste quelque part compréhensible et assumable. Si la décision est opaque, le problème n'est plus seulement de savoir à qui attribuer la responsabilité. Le problème est de savoir si la décision à laquelle cette responsabilité devrait s'attacher possède encore une structure de justification humaine. Et c'est là une rupture bien plus profonde.

  Cette approche impose également de repenser les principes classiques de l'éthique de la guerre. La distinction, la proportionnalité et la nécessité militaire ne peuvent pas s'appliquer en se fondant uniquement sur les résultats. La raison pour laquelle une cible est considérée comme combattante, la raison pour laquelle un dommage civil est jugé acceptable, la raison pour laquelle une attaque est estimée nécessaire — tout cela doit pouvoir être justifié. Si ces raisons se perdent à l'intérieur de systèmes opaques, les principes continuent d'exister formellement, mais leur contenu moral se vide. Ils semblent s'appliquer — mais ils sont devenus des normes sans fondement.

  En définitive, la thèse défendue dans ce travail n'est pas un rejet radical de la technologie. La conclusion, plus mesurée mais tout aussi nette, est la suivante : la légitimité de l'usage de l'IA dans la guerre dépend de la possibilité, pour un humain, d'accéder aux raisons des décisions létales. Un système peut être rapide, précis et efficace, mais si la raison de sa décision ne peut pas être comprise, questionnée et moralement assumée, il ne s'agit pas seulement d'un défaut technique : c'est un problème qui ronge de l'intérieur les conditions fondamentales de l'éthique de la guerre. Le vrai danger de la guerre assistée par l'IA n'est pas seulement de produire de mauvaises décisions, c'est de pouvoir faire sortir même les décisions qui semblent correctes du champ de la justification humaine et de la responsabilité morale.

Conclusion

  En conclusion, il faut dire les choses clairement : l'usage de l'intelligence artificielle dans la guerre ne soulève pas simplement des questions d'ordre technique. Il touche à quelque chose de bien plus fondamental, les conditions mêmes qui rendent possible un jugement moral sur la décision de tuer. Ce n'est pas une nuance académique. C'est le cœur du problème.Rowe nous a montré que pour évaluer moralement une décision, il ne suffit pas d'en observer les effets : il faut pouvoir comprendre comment elle a été produite. Sharkey a montré que confier à une machine la décision sur la vie et la mort d'un être humain ne constitue pas seulement un risque d'erreur. C'est une rupture dans la dignité de celui qui est ciblé, et dans la responsabilité de celui qui agit. Matthias, enfin, a nommé ce que l'on pressent sans toujours oser le formuler : lorsqu'une machine autonome agit, et que personne ne peut véritablement dire pourquoi elle a agi ainsi, la responsabilité ne se redistribue pas. Elle disparaît.

  Ce que ces trois analyses ont en commun, c'est une intuition que ce travail a cherché à articuler : le problème n'est pas que l'IA prenne de mauvaises décisions. Le problème est qu'elle peut prendre des décisions que personne n'est en mesure de comprendre, de justifier, ni d'assumer moralement. Et une décision que personne n'assume n'est pas seulement une décision dangereuse. C'est une décision qui échappe au domaine de l'éthique.

  C'est pourquoi la condition minimale n'est pas négociable : toute décision létale assistée par l'IA doit rester rattachée à un sujet humain capable d'en expliquer la raison, d'en porter la responsabilité, et d'en répondre devant les autres, non pas formellement, mais réellement. Si ce lien est rompu, ce ne sont pas seulement les règles de la guerre qui sont fragilisées. C'est la possibilité même de la guerre juste qui disparaît.

Perspective de recherche

  Tout au long de cette étude, nous avons abordé les problèmes éthiques de l’intelligence artificielle dans les situations de guerre. Cependant, aujourd’hui, les applications d’intelligence artificielle largement utilisées par les civils stockent les données de personnes du monde entier. Dans l’hypothèse où, en cas de guerre, une loi autoriserait les États à accéder à ces données, quels types de problèmes éthiques pourraient apparaître ?

  L’exemple du USA PATRIOT Act. est révélateur. Cette loi, mise en œuvre par G. Bush après les attentats du 11 septembre 2001 dans le cadre de la lutte contre le terrorisme, a autorisé l’utilisation, sans le consentement des personnes concernées, des relevés téléphoniques, des données bancaires, des activités sur Internet, du trafic de données et de courriels, ainsi que de certains dossiers institutionnels. Apparue dans un contexte de fortes préoccupations sécuritaires, cette loi a rapidement suscité de nombreux débats concernant la question de savoir si elle limitait les libertés individuelles.

  Aujourd’hui, avec l’augmentation de l’utilisation des technologies et l’enregistrement de la moindre donnée concernant les individus, l’éventuelle mise à disposition de ces données aux États dans une situation future pourrait à nouveau provoquer d’importants débats éthiques. Cette situation créerait pour l’éthique de l’intelligence artificielle de nouvelles discussions qui ne seraient plus centrées uniquement sur la guerre et les facteurs liés au champ de bataille, mais également sur l’utilisation des données existantes et produites avant la guerre et en dehors de celle-ci.

Remerciements

  Je remercie sincèrement İhsan Hayri BATUR pour ses conseils, sa disponibilité et son accompagnement tout au long de la réalisation de ce travail.

Bibliographie

Aristote (2014).  Éthique à Nicomaque (J. Tricot, Trad.). Éditions Les Échos du Maquis, v. : 1,0. https://philosophie.cegeptr.qc.ca/wp-content/documents/Éthique-à-Nicomaque.pdf

Rowe, N. C. (2022). The comparative ethics of artificial- intelligence methods for military applications. Frontiers in Big Data, 5, Article 991759. https://www.researchgate.net/publication/363482125_The_comparative_ethics_of_artificial-intelligence_methods_for_military_applications/fulltext/631f266a0a70852150eb361a/The-comparative-ethics-of-artificial-intelligence-methods-for-military-applications.pdf?origin=publication_detail&_tp=eyJjb250ZXh0Ijp7ImZpcnN0UGFnZSI6InB1YmxpY2F0aW9uIiwicGFnZSI6InB1YmxpY2F0aW9uRG93bmxvYWQiLCJwcmV2aW91c1BhZ2UiOiJwdWJsaWNhdGlvbiJ9fQ

Sharkey, A. (2019). Autonomous weapons systems, killer robots and human dignity. Ethics and Information Technology, 21(2), 75-87.      https://link.springer.com/content/pdf/10.1007/s10676-018-9494-0.pdf

Matthias, A. (2004). The responsability gap : Ascribing responsability for the actions of learning automata. Ethics and Information Technology, 6(3), 175-183. https://eclass.uoa.gr/modules/document/file.php/PHILOSOPHY875/ΜΠΟΥΤΛΑΣ%20ΟΠΛΑ%20ΜΑΖΙΚΗΣ%20ΚΑΤΑΣΤΡΟΦΗΣ%20DRONES/The%20responsibility%20gap%20Ascribing%20responsibility%20for%20the%20actions%20of%20learning%20matthias2004.pdf