人工智能战争与法律问题:自动化军事系统对人权意味着什么

【免责声明】 本文是基于外部来源的信息重新整理的。请在参考本文内容前核实原始来源。

新闻摘要
本站解析

新闻摘要

以下内容已在网上发布。下面呈现了翻译后的摘要。有关详细信息,请参阅原文。

法学学者哈利勒·德万(Khalil Dewan)对在加沙地区军事行动中使用人工智能和自动化系统表示关切。在一次详细的采访中,德万解释了人工智能驱动的监视系统如何能够同时跟踪数千人,分析运动模式,并在没有人类监督的情况下确定潜在目标。他讨论了这些系统能够比人类更快地生成目标列表,从而导致生死决策部分自动化的报告。德万强调,国际人道主义法要求在军事决策中保留人类判断,特别是涉及平民伤害的决策。他警告说,人工智能系统的速度和规模可能已经超越了旨在保护冲突地区平民的法律框架。这次对话突出了法律专家对算法参与军事决策问责制的日益关切,以及更新国际法以应对人工智能战争的需求。

来源: UntoldMag via Global Voices

本站解析

背景和环境

人工智能(AI)在军事行动中已不再是科幻小说,而是正在发生的现实。人工智能系统可以处理来自摄像头、无人机、手机和卫星的大量数据,识别人类可能忽略的模式。在冲突地区,这些系统被用于跟踪动态、预测行为和确定潜在的军事目标。

国际人道主义法,也称为战争法,已存在150多年。这些法律要求军队区分平民和战斗人员,使用适当的武力,并采取预防措施,尽量减少平民伤害。然而,这些法律是在人类做出所有军事决策的情况下制定的。人工智能的引入带来了新的挑战,因为机器现在可以影响或甚至做出以前需要人类判断的决定。

专家分析

像哈利勒·德万这样的法学学者担心人工智能战争存在几个关键问题。第一个是速度问题:人工智能可以在几分钟内生成数千个潜在目标,但仔细审查每一个目标需要更长的时间。这会给人以信任人工智能建议的压力,而不进行充分的人工审查。

第二个是问责制问题:如果一个人工智能系统参与了一个伤害平民的决定,谁应该负责?编写代码的程序员?批准使用该系统的指挥官?执行其建议的士兵?现有法律无法明确回答这些问题。

第三个是透明度问题:许多人工智能系统都是”黑箱”——即使是它们的创造者也无法完全理解它们如何得出特定结论。这使得挑战决策或从错误中吸取教训变得很困难。

补充数据和事实

现代人工智能监视系统可以:

• 同时跟踪数千个个体,覆盖多个摄像头

• 分析来自电话和互联网数据的通信模式

• 根据历史行为模式预测可能的移动

• 在几秒或几分钟内生成目标建议

• 24/7不间断地运行,不会像人类分析员那样疲劳

日内瓦公约,即主要的国际战争法,要求目标选择决定包括人类对以下因素的判断:

• 目标是否为军事目标或平民

• 预期的平民伤害与军事优势

• 可采取的减少平民伤亡的预防措施

• 攻击的时间和方式

总结

人工智能在战争中的使用代表了战争打法的最重大变革之一,引发了关于人类控制、问责制和保护平民的根本性问题。虽然人工智能可能使军事行动更加精确,但它也可能导致从生死决策中排除人类判断。像哈利勒·德万这样的法学学者认为,国际法必须迅速发展,以应对这些新技术,在它们成为战争中的常态之前。挑战在于确保人工智能带来的效率提升不会以牺牲数百年来建立的人道主义保护为代价。

公众反应

人权组织对人工智能战争表示严重关切,amnesty international和人权观察组织呼吁制定严格的法规。科技工人已经组织起请愿,反对军事人工智能项目,而一些人则认为,如果使用得当,人工智能实际上可以减少平民伤亡。来自各国的军事官员为人工智能辩护,称其是现代冲突中的必要工具,这造成了关于技术、伦理和安全的复杂辩论。

常见问题解答

问:什么是人工智能监视?
答:人工智能监视使用计算机程序自动分析视频源、通信和其他数据,以识别模式或特定个人。与传统的人工监视不同,人工智能可以同时监控数千个源,并在发现重要情况时提醒操作员。

问:人工智能与无人机或其他军事技术有什么不同?
答:虽然无人机是由人类控制的工具,但人工智能系统可以自主分析信息并做出建议或决定。这就像驾驶汽车(由你控制)和自动驾驶汽车(自主决定行驶路线)的区别。人们担心的是,我们在战争中给予机器多少决策权。

问:为什么我们不能让人工智能按照战争法来编程?
答:战争法通常需要对背景、意图和比例性等复杂因素做出判断,这很难用计算机代码来表达。例如,确定某人是平民还是战斗人员可能取决于不断变化的细微因素。人工智能在这种需要人类自然判断的微妙决策方面存在困难。

人工智能和自动化系统如何改变现代战争：加沙地区的法律关切