[Avertissement] Cet article a été reconstruit à partir d’informations provenant de sources externes. Veuillez vérifier la source originale avant de vous y référer.
Résumé de l’actualité
Le contenu suivant a été publié en ligne. Un résumé traduit est présenté ci-dessous. Consultez la source pour plus de détails.
Le juriste Khalil Dewan a exprimé des préoccupations concernant l’utilisation de l’intelligence artificielle et des systèmes automatisés dans les opérations militaires à Gaza. Dans une interview détaillée, Dewan explique comment les systèmes de surveillance alimentés par l’IA peuvent suivre simultanément des milliers de personnes, analyser les schémas de mouvement et identifier les cibles potentielles sans supervision humaine. Il évoque des rapports sur des systèmes capables de générer des listes de cibles plus rapidement que les humains ne peuvent les examiner, entraînant une automatisation partielle des décisions sur la vie et la mort. Dewan souligne que le droit humanitaire international exige un jugement humain dans les décisions militaires, en particulier celles impliquant des dommages civils. Il avertit que la vitesse et l’ampleur des systèmes d’IA risquent de dépasser les cadres juridiques conçus pour protéger les civils dans les zones de conflit. La conversation met en lumière les préoccupations croissantes des experts juridiques concernant la responsabilité lorsque les algorithmes contribuent aux décisions militaires et la nécessité de mettre à jour le droit international pour faire face à la guerre à l’IA.
Source : UntoldMag via Global Voices
Notre commentaire
Contexte et arrière-plan
L’intelligence artificielle (IA) dans les opérations militaires n’est plus de la science-fiction – c’est une réalité. Les systèmes d’IA peuvent traiter de vastes quantités de données provenant de caméras, de drones, de téléphones et de satellites pour identifier des schémas que les humains pourraient manquer. Dans les zones de conflit, ces systèmes sont utilisés pour suivre les mouvements, prédire les comportements et identifier les cibles militaires potentielles.
Le droit humanitaire international, également connu sous le nom de lois de la guerre, existe depuis plus de 150 ans. Ces lois exigent que les armées distinguent les combattants des civils, utilisent une force proportionnée et prennent des précautions pour minimiser les dommages civils. Cependant, ces lois ont été rédigées à une époque où les humains prenaient toutes les décisions militaires. L’introduction de l’IA crée de nouveaux défis car les machines peuvent désormais influencer ou même prendre des décisions qui nécessitaient auparavant un jugement humain.
Analyse d’expert
Des universitaires comme Khalil Dewan s’inquiètent de plusieurs problèmes clés liés à la guerre à l’IA. Le premier est le problème de la vitesse : l’IA peut générer des milliers de cibles potentielles en quelques minutes, mais les examiner correctement prend beaucoup plus de temps. Cela crée une pression pour faire confiance aux recommandations de l’IA sans examen humain adéquat.
Le deuxième est le problème de la responsabilité : si un système d’IA contribue à une décision qui nuit aux civils, qui est responsable ? Le programmeur qui a écrit le code ? Le commandant qui a approuvé l’utilisation du système ? Le soldat qui a agi sur sa recommandation ? Les lois actuelles ne répondent pas clairement à ces questions.
Le troisième est le problème de la transparence : de nombreux systèmes d’IA sont des “boîtes noires” – même leurs créateurs ne comprennent pas complètement comment ils parviennent à des conclusions spécifiques. Cela rend difficile de remettre en question les décisions ou d’en tirer des leçons.
Données supplémentaires et faits
Les systèmes de surveillance à l’IA modernes peuvent :
• Suivre des milliers d’individus simultanément à travers plusieurs caméras
• Analyser les schémas de communication à partir des données de téléphone et d’internet
• Prédire les mouvements probables en fonction des comportements historiques
• Générer des recommandations de cibles en quelques secondes ou minutes
• Fonctionner 24h/24 sans fatigue, contrairement aux analystes humains
Les Conventions de Genève, principales lois internationales régissant la guerre, exigent que les décisions de ciblage incluent un jugement humain sur des facteurs tels que :
• Si une cible est militaire ou civile
• Les dommages civils attendus par rapport à l’avantage militaire
• Les précautions disponibles pour minimiser les pertes civiles
• Le moment et les méthodes d’attaque
Actualités connexes
Les Nations Unies ont entamé des discussions sur la réglementation des systèmes d’armes autonomes, certains pays appelant à une interdiction totale des “robots tueurs” capables de sélectionner et d’attaquer des cibles sans contrôle humain. Le Comité international de la Croix-Rouge a publié des lignes directrices soulignant que les humains doivent conserver le contrôle des décisions de vie ou de mort.
Les entreprises technologiques font face à une pression croissante concernant les utilisations militaires de leur technologie d’IA. Certains employés de grandes entreprises technologiques ont protesté contre les contrats avec des organisations militaires, affirmant que leur travail ne devrait pas contribuer à la guerre. Cela a suscité des débats sur la responsabilité des techniciens dans l’utilisation de leurs créations.
Résumé
L’utilisation de l’IA dans la guerre représente l’un des changements les plus importants dans la façon dont les conflits sont menés, soulevant des questions fondamentales sur le contrôle humain, la responsabilité et la protection des civils. Bien que l’IA puisse potentiellement rendre les opérations militaires plus précises, elle risque également de supprimer le jugement humain dans les décisions de vie ou de mort. Des universitaires comme Khalil Dewan affirment que le droit international doit évoluer rapidement pour s’attaquer à ces nouvelles technologies avant qu’elles ne se normalisent dans la guerre. Le défi consiste à s’assurer que les gains d’efficacité de l’IA ne se fassent pas au détriment des protections humanitaires qui ont mis des siècles à s’établir.
Réaction publique
Les organisations de défense des droits humains ont exprimé leur inquiétude face à la guerre à l’IA, Amnesty International et Human Rights Watch appelant à des réglementations strictes. Les travailleurs du secteur technologique ont organisé des pétitions contre les projets militaires d’IA, tandis que certains affirment que l’IA pourrait en fait réduire les pertes civiles si elle est utilisée correctement. Les responsables militaires de divers pays défendent l’IA comme un outil nécessaire dans les conflits modernes, créant un débat complexe sur la technologie, l’éthique et la sécurité.
Questions fréquentes
Q : Qu’est-ce exactement que la surveillance par IA ?
R : La surveillance par IA utilise des programmes informatiques pour analyser automatiquement les flux vidéo, les communications et d’autres données afin d’identifier des schémas ou des individus spécifiques. Contrairement à la surveillance traditionnelle où les humains regardent les écrans, l’IA peut surveiller des milliers de flux simultanément et alerter les opérateurs sur tout ce qu’elle juge important.
Q : En quoi l’IA est-elle différente des drones ou d’autres technologies militaires ?
R : Alors que les drones sont des outils contrôlés par les humains, les systèmes d’IA peuvent analyser les informations et faire des recommandations ou des décisions par eux-mêmes. C’est comme la différence entre une voiture (que vous conduisez) et une voiture autonome (qui décide elle-même où aller). La préoccupation concerne l’ampleur du pouvoir décisionnel que nous accordons aux machines dans la guerre.
Q : Pourquoi ne pouvons-nous pas simplement programmer l’IA pour qu’elle suive les lois de la guerre ?
R : Les lois de la guerre nécessitent souvent des jugements complexes sur le contexte, l’intention et la proportionnalité, qui sont difficiles à traduire en code informatique. Par exemple, déterminer si quelqu’un est un civil ou un combattant peut dépendre de facteurs subtils qui changent selon les circonstances. L’IA a du mal avec ce type de prise de décision nuancée que les humains font naturellement.
