当AI是一种工具而当它是一种武器时

 
人工智能带给世界的巨大能力对于后代来说是不可想象的。但是，即使我们惊叹于这些新技术所能提供的强大功能，我们仍然面临着有关利益与危害之间平衡的复杂而紧迫的问题。
当大多数人思考AI是好是坏时，他们实质上想抓住的是AI是工具还是武器。当然，两者都可以-可以帮助减轻人的劳累，也可以用于制造自主武器。无论哪种方式，随后的辩论都涉及许多未解决的问题，对于铺平前进的道路至关重要。
锤子和枪
在考虑AI的双重功能时，锤子和枪支是一个有用的类比。无论预期目的如何，锤子和枪支都可用作工具或武器。他们的设计当然与这些区别有很大关系-毕竟，您不能用枪托将房屋的框架固定在一起-但在很大程度上，重要的是谁在挥舞着物体，他们打算如何处理?它，向谁或为谁以及为什么。
在AI中，炮击比喻巧妙地适用于两类：自主军事武器和机器人流程自动化(RPA)。
人工智能驱动的军事级武器的前景可能令人恐惧。像武器技术的所有进步一样，它们的主要目的是在表面上更有效地杀死人们，同时最大程度地减少“我们”一方的人员伤亡。几个世纪以来，人们从字面上和形象上越来越远离武器的直接影响。从剑到弓箭，步枪，步枪，迫击炮，轰炸机，导弹和无人驾驶飞机的发展，代表了技术的进步，使我们越来越远离敌人。
但是，人类一直是释放箭头，拉动扳机或按下按钮的人。现在的问题是，是否赋予杀人机器对谁活着，谁死的决策权。这是一条跨越的新线，并重申了对人在环环线AI设计的需求。
一个小小的安慰：国防部(DoD)的成员中，似乎最关心自动武器的幽灵和解决这些问题的最合乎道德的方式的人之中。在2019年4月在硅谷举行的一次活动中，国防创新委员会(DIB)征集了来自技术人员，学者，退休军事人员和活动家的道德和自主武器方面的智慧。最近，DIB向国防部提供了有关与战斗和非战斗AI系统相关的道德原则的指南，DIB董事会主席和前Google首席执行官埃里克·施密特(Eric Sc​​hmidt)断言，这有助于制定一项国家AI政策。
与AI的军事应用相比，RPA就像锤子一样坚固，因为它显然是一种工具。它可以自动执行繁琐而耗时的任务，从而使工人更加高效，并在关键工作上花费更多的时间。它的快速增长和巨大的市场机会可以说在一定程度上是因为，它不会像技术创新那样破坏和杀死传统行业，反而可以赋予它们新的生命，帮助他们保持竞争力和相关性。
对于公司甚至个人工人和团队来说，RPA可以增强能力。但是不利的是，自动化通常会消除现有的工作。根据具体情况，有人可能会争辩说，一家公司可以利用自动化技术来控制其员工队伍，使大量来之不易的技能和经验使工人不知所措。
确实，人们担心在这个特定的创新周期中(消除工作然后创造新的工作)，太多的人有被富人致富而被抛在后面的风险。最脆弱的人群包括目前从事低薪工作的人和有色人种。在《美国国家科学院学报》(PNAS)，麻省理工学院，普华永道全球，麦肯锡和AI Now研究所的报告中都表达了担忧。
这些挑战在一定程度上推动了VentureBeat的BLUEPRINT活动，这些活动着眼于沿海地区的科技行业及其独特挑战。这些事件经常出现自动化问题。自动化之后将出现的许多新工作需要学习什么才是贸易，而不是获得计算机科学学位。有时，这些工作可能在同一领域。例如，自动驾驶卡车可能会取代卡车司机，但仍然需要有人在船上处理物流和通讯，这是前卡车司机可以通过少量的新培训就可以从事的工作。广泛的技能提升和技能提升可以帮助流离失所的工人扩大到比以前更好的工作。
来回传递功率差。自动化是一种工具，是一种武器，是一种工具。
在阴暗的中间
几乎所有其他AI技术都在辅助工人的自动化和杀手级无人机的极端之间，至少可以说，中间是模糊的。那是关于AI的辩论变得最困难的地方，但也变得更加重要。
面部识别比其他任何AI技术都清楚地展示了如何将AI工具转变为武器。
的确，面部识别技术有许多有益的用途。它可以用于诊断遗传疾病并帮助筛查潜在的人口贩运。执法部门可以使用它来快速追踪和逮捕恐怖分子，或者像底特律警察局的视频监视程序一样，轻松地找到犯罪嫌疑人。也有完全中立的用途，例如使用它来增强丰富的在线购物体验。
但是，即使是其中的一些AI应用，在道德方面也令人担忧。在底特律，即使警察局长看起来原则性，透明并且知道可能存在的滥用职权，但该制度已经成熟。例如，纽约警察局已经滥用了面部识别技术来抓捕嫌疑犯。即使从未滥用这种系统，而警察只是合法地使用它，市民仍可能将其视为武器。仅凭这种看法就可以削弱信任，并使人们生活在恐惧中。
在警务和量刑中以及在诸如雇用等杂项领域中使用面部识别都存在很大的问题。我们知道，例如，由于使用不良数据集构建的模型，面部识别技术通常不适用于女性和有色人种。数据还可能包含仅在AI上下文中应用时才会放大的偏差。
而且对于面部识别软件的存在存在合理的道德异议，这导致多个美国城市禁止使用该技术。民主党总统候选人参议员伯尼·桑德斯(I-VT)呼吁禁止警察使用面部识别软件。
更为令人担忧的是，政府对面部识别的滥用令人震惊，例如在中国对维吾尔族人的迫害，这在一定程度上是由于微软的研究而成为可能的，并且该公司遭到了公开批评。但是微软也拒绝将面部识别技术出售给加利福尼亚州的执法部门以及美国移民与海关执法局(ICE)。亚马逊在记录中说，只要他们遵守法律，它将把其Rekognition面部识别技术出售给任何政府部门(可能包括ICE)。
以上所有这些都使技术公司承担将面部识别技术卖给政府的责任受到质疑。
在Build 2019的一次会议上，微软AI程序总经理Tim O’Brien作了幻灯片演示，介绍了公司如何看待AI伦理。这在很大程度上令人放心，因为它表明Microsoft一直在认真考虑这些问题并草拟了有原则的内部准则。但是在问答环节中，奥布莱恩被要求讨论与微软等公司有关的责任和法规问题。
他说：“有四种思想流派。”为了解释他的布局，公司可以采用以下方法之一：
1.我们是平台提供商，我们不承担任何责任(购买者对我们出售给他们的技术的处理方式)
2.我们将自我调节业务流程并做正确的事
3.我们将做正确的事，但政府需要与我们合作，参与进来，以建立监管框架
4.这项技术应该根除
他说，微软支持第三种方法。他说：“取决于与您交谈的对象，无论是公共部门，客户，人权活动家，取决于……与您交谈的有关方面，他们会有不同的观点。” “但是我们只是继续努力，试图教育决策者的重要性。”
一方面，这是公司采取务实和负责任的态度。但是，另一方面，这是否意味着Microsoft甚至不会接受它不应该仅仅因为它可以创造技术的可能性?因为如果是这样，该公司将自己从有关是否应该存在某些技术的关键辩论中解脱出来。技术公司不仅需要参与规范自己创造的技术，还需要参与其中。他们需要首先考虑某些技术是否应该走出研发实验室的道路。
旅程是目的地吗?
由于AI技术感觉如此巨大，强大且难以驯服，因此它们所带来的挑战可能令人感到棘手。但事实并非如此。悲观的看法是，我们注定要陷入不可避免的地缘政治后果的军备竞赛。但是我们不是。
从结构上讲，人类一直都面临着这类挑战，而剧本却一如既往。不良行为者一直并将永远寻找武器化工具的方法。每个人都有责任后退和重新平衡。对于当今的AI挑战，也许最好的起点是Oren Etzioni的AI执业者希波克拉底誓言-行业承担着医学界的“不伤害”承诺。誓言包括将人类的关注放在技术上的誓言，避免玩弄神(特别是在可能会杀死的AI功能方面)，尊重数据隐私并尽可能防止伤害。
微软总裁布拉德·史密斯(Brad Smith)和他的对外关系和传播高级总监卡洛尔·安·布朗(Carol Ann Browne)最近撰写的新书《工具和武器：数字时代的承诺和危险》重述了公司历史上的分水岭，并描述了周围的问题和解决方案。史密斯的观点是独特的，因为他的方法很少涉及技术本身，而更多地涉及法律，道德，道德和实践问题。
突出的工具和武器轶事是微软在爱尔兰的数据中心遇到国际法律问题时。本质上，问题在于国家主权和数据。当一个国家想要强迫一家科技公司交出另一国中存储的数据时会发生什么? “在某些方面，这不是一个新问题，”史密斯写道。 “几个世纪以来，世界各国政府一致认为，政府的权力，包括其搜查令，都在其边界处停止。”史密斯写道，“司法互助条约”(MLAT)的出现使人们可以在全国范围内引渡和获取信息。边界-各国在处理重大事项(例如刑事司法)时尊重对方主权的一种方式。但是很久以前编写MLAT的人不可能对云计算有任何了解。
由于数据存储在云中(例如位于爱尔兰的数据中心中，位于Microsoft拥有的服务器上)，国际边界​​和对这些数据的访问的概念被打破了，并为危险的滥用敞开了大门。史密斯(Smith)撰写了一篇有关执法机构如何通过服务位于其管辖范围内的技术公司来要求绕过MLAT的请求，该公司要求将数据存储在另一个国家的大洋中。突然之间，科技公司陷入了主权政府之间。
诸如窃听法之类的解决了相关但不是精确适用的问题的许多法律根本不足以解决这一新技术进步。立法者最终制定了《澄清海外合法使用数据(CLOUD)法案》，史密斯写道，该法案“平衡了司法部想要的国际搜查令的范围，并认识到技术公司可以在发生冲突时向法院提起诉讼以质疑搜查令的法律。涉及微软的两大诉讼;来自三大洲的至少四个政府的官员;以及美国政府的所有三个分支机构，包括美国最高法院和两名总统，来完成这项工作。
云计算是看似棘手的新问题的有力例证。像Microsoft这样的公司，连同多个国家的政府，都不得不努力重新考虑云计算如何影响国际边界，执法管辖区以及私有财产的所有权和隐私权。
尽管《 CLOUD法案》的传奇故事特别复杂且旷日持久，但解决整个技术和工具所带来的新问题的根本挑战却贯穿工具和武器，涉及网络安全，互联网，社交媒体，监视，造成(并可能解决)的机会差距通过宽带和人工智能等技术。在Smith的重述中，寻找解决方案的过程总是相似的。它要求所有利益攸关方真诚行事。他们必须听取关注和反对意见，还必须与竞争对手公司(在许多情况下，还需要多个国际政府)共同努力，制定新的法律和法规。有时，解决方案需要进一步的技术创新。
毫不奇怪，微软对史密斯(Smith)在《工具与武器》中的回忆相当看好，并且该文本无论如何都不能提供完美的剧本。但这确实提醒我们，技术界一次又一次地处理着相同类型的基本问题，人们为找到解决方案而进行了艰苦而认真的工作。
处理AI及其承诺和问题需要道德上的愤怒，政治意愿，负责任的设计，谨慎的监管以及对强者负责的手段。