五角大楼揭示了在战争中使用人工智能的无牙伦理原则

 
五角大楼宣布了美军使用AI的五项道德原则。国防部长马克·埃斯珀(Mark Esper)表示，该指导方针将加快作战和非作战行动对技术的合法使用和道德使用，但是朦胧的建议几乎没有详细说明如何将其应用于战场。
第一条原则要求服务人员在使用AI系统时“行使适当的判断和护理水平”，这一要求可以接受多种解释。它为整个指南遵循的模棱两可的语言定下了基调。
国防部(DOD)指出，所有AI功能“都将具有明确的，明确定义的用途”，但需要进行持续的测试，但对在战争中使用该技术的方式没有任何限制。
尽管有越来越多的人要求禁止使用致命的自动武器，但军方也没有关于该技术的具体应用的任何细节。他们确实承诺将具有“脱开或停用表现出意外行为的已部署系统的能力”，但这听起来只不过是增加了关闭开关而已。
国防部还承诺“采取有步骤的措施以最大程度地减少AI功能中的意外偏差”，但未提供有关如何完成此操作的信息。
研究人工智能在战争中的作用的人类学家露西·苏克曼(Lucy Suchman)对美联社表示：“我担心这些原则有点违反道德规范。”
硅谷与军方的棘手关系
这项原则是由国防创新委员会(Defense Innovation Board)提出的，该委员会是由前Google首席执行官埃里克·施密特(Eric Sc​​hmidt)主持的一组私营部门技术主管。
施密特为硅谷与军方之间的关系辩护，认为该行业可以就与政府合作的原则达成协议。
事实证明，Google员工热情不高。在2018年，他们对公司参与国防部计划Maven的抗议活动使国防部将私营部门的专业知识带入了军事AI，导致Google宣布将不续签合同。
以下是Schmidt希望赢得批评家指责的完整原则：
1.负责国防部人员将行使适当的判断和谨慎水平，同时还要负责AI功能的开发，部署和使用。
2.公平。国防部将采取有步骤的措施，最大程度地减少人工智能功能中的意外偏见。
3.可追溯的。该部门的AI功能将得到开发和部署，以使相关人员对适用于AI功能的技术，开发流程和操作方法有适当的了解，包括透明且可审核的方法，数据源以及设计程序和文档。
4.可靠。该部门的AI功能将具有明确定义的用途，并且这些功能的安全性，有效性和有效性将在其整个生命周期内受这些定义用途的测试和保证。
5.可治的。该部门将设计和设计AI功能，以实现其预期的功能，同时具有检测和避免意外后果的能力，以及使表现出意外行为的已部署系统脱离或停用的能力。