新闻
您现在的位置:首页 > 新闻 > 人为的愚蠢:“行动缓慢并解决问题”可能是AI的口头禅
  • 从0到1,这些新锐品牌在抖音做对了什么?

    从0到1,这些新锐品牌在抖音做对了什么?

    发布时间:2021/06/22

    如今的食品饮料行业,新机会往往由新的玩家率先挖掘,他们中的佼佼者将成为行业中极具竞争力的年轻选手,我们称之为新锐品牌。 在漫天的战报中,我们很容易就能找到一个数据猛增的新锐品牌,但挖掘新锐品牌背后的...

  • Gislaved熊牌轮胎正式进入中国市场

    Gislaved熊牌轮胎正式进入中国市场

    发布时间:2021/04/24

    德国马牌轮胎亚太区产品总监Tolga MUTLU介绍Gislaved熊牌新品轮胎 大陆马牌轮胎(中国)有限公司宣布,拥有百年辉煌历史的轮胎品牌 — Gislaved熊牌轮胎正式进入中国市场,进一步夯实德国马牌在华“多品牌”战...

  • 麦当劳中国推出金菠萝雪芭

    麦当劳中国推出金菠萝雪芭

    发布时间:2021/04/23

    麦当劳中国推出首个雪芭类产品 麦当劳中国与国际知名水果品牌都乐首次合作,推出全新夏日新品 — 金菠萝雪芭,为夏日冰品市场增添了一个创新的美味轻食选择。 金菠萝雪芭是麦当劳中国的首个雪芭类产品,使用...

人为的愚蠢:“行动缓慢并解决问题”可能是AI的口头禅

发布时间:2019/10/08 新闻 浏览次数:683

 
“我们不要将社会用作我们尚不确定它们将如何改变社会的技术的试验台,”位于美国爱达荷州的人工智能(AI)研究机构Ada Lovelace研究所所长Carly Kind警告说。英国“让我们尝试思考其中的一些问题-行动缓慢并解决问题,而不是行动迅速并打破问题。”
Kind是在Digital Frontrunners最近在哥本哈根举行的会议上进行小组讨论的一部分,该会议重点讨论了AI和其他下一代技术对社会的影响。
Facebook崛起成为互联网主导者所体现的“快速行动,打破常规”的精神是许多硅谷初创公司所借用的:开发和迅速发布MVP(最小可行产品),进行迭代,从错误中吸取教训并重复。在开发照片共享应用程序,社交网络或移动消息服务时,这些原则相对来说是无害的,但是在Facebook脱颖而出的15年中,技术行业已经发展成为完全不同的野兽。大规模的数据泄露几乎每天都在发生,在工业层面上的数据收集正威胁着民主国家,而人工智能(AI)现在正渗透到社会的各个方面-常常引起人类的不满。
尽管Facebook在5年前正式放弃了“快速行动并打破事物”的口头禅,但似乎当今许多技术问题的症结归结为以下事实:公司已经(并继续前进)太快了(“全速前进”)前进,并承担后果。”
“人为的愚蠢”
3D渲染,机器人不会说话,不会听到邪恶,不会看到邪恶
上图:机器人的3D渲染,不会说话,不会听到邪恶,不会看到邪恶。
本周有消息传出,国会一直在研究美国和国外军方如何使用面部识别技术,并指出该技术还不够准确。
国会在一封信中写道:“面部识别技术对战士的操作优势是有希望的。” “但是,如果错误或不正确的面部扫描导致对平民的无意瞄准或任务要求的妥协,那么对这种新兴技术的过度依赖也会造成灾难性的后果。”
这封信继续指出,“描绘黑人和女性受试者的图像的准确率始终低于白人和男性受试者。”
尽管有无数其他示例说明了AI在解决算法偏差方面仍需要走多远的距离,但这里存在的更广泛的问题是AI在整个频谱上都不够好或不值得信赖。
“每个人都想站在大学,公司,政府之间的最前沿或最前沿,”人工智能研究人员,冰岛智能机器研究所的创始人克里斯汀·R·索里森博士说。小组讨论为Carly Kind。 “他们认为人工智能是接下来的[大]事情。但是我们实际上正处于人为愚蠢的时代。”
托里森(Thórisson)是所谓的人工智能(AGI)的主要支持者,该组织致力于集成不同的系统,以创建具有人性化属性(例如自学,推理和计划)的更复杂的AI。根据您的要求,AGI会在5年后推出,距离还有很长的路要走,或者永远不会发生-不过,Thórisson确实相信AGI会在一天内发生。那样的话,他不是很确定,但是他可以确定的是,当今的机器并不像某些人想象的那样聪明。
托里森说:“在谈论AI时,经常使用’understanding’一词,这是人们在谈论AI时经常将’understanding’用引号引起来。” “归根结底,这些机器并不能真正理解任何东西,这就是问题所在。”
对于AI在打败人类,扑克,AlphaGo或Kings of Kings方面的惊人变化,有很多积极失败的例子。大多数人认为,无人驾驶汽车已经为黄金时间做好了准备,但是还有其他证据表明,在将其留给自己的设备之前,仍有一些障碍需要克服。
例如,本周有消息称,监管机构正在调查特斯拉最近推出的自动智能召唤功能,该功能可使驾驶员远程在停车场内召唤他们的汽车。上周该功能正式推出后,许多用户在网上发布了一些视频,这些视频显示了当机,接近崩溃以及一般可笑的状况。
这并不是对自动驾驶汽车制造商所取得的巨大进步表示蔑视,但它表明,将自动驾驶汽车推向市场的激烈战斗有时会导致半熟的产品,这些产品可能还没有准备好公共消费。
十字路口
消费者,公司,政府和学术界之间围绕AI技术对社会的影响日益紧张是显而易见的。随着科技行业以较低的速度推崇创新并加快迭代测试的速度,事情有可能变得一发不可收拾-追求“成为第一”或获得丰厚的合同并保持股东满意的追求可能太诱人了。
从Facebook,Amazon和Google到Apple,Microsoft和Uber的所有大公司都在多个业务领域竞争,其中AI贯穿于所有领域。通过收购初创公司或只是聘请顶尖大学的顶尖人才,人们一直在努力吸引所有顶尖的AI人才。还有一个问题,就是要花大钱来确保大客户的安全-亚马逊和微软目前正在努力争取赢得五角大楼100亿美元的AI和云服务合同。
在所有这些之中,科技公司在向政府和执法部门提供面部识别服务(FRS)方面面临越来越大的压力。早在1月份,由85个以上的倡导组织组成的联盟向Google,微软和亚马逊发出公开信,敦促它们停止向当局出售面部识别软件,以免为时已晚。
加利福尼亚州美国公民自由联盟(ACLU)的技术和公民自由主管Nicole Ozer表示:“公司不能继续假装“先破后断”的方法行之有效。 “历史清楚地告诉我们,政府将利用面部监视等技术来针对肤色,宗教少数群体和移民群体。我们正面临着人脸监视的十字路口,这些公司现在做出的选择将决定下一代是否必须担心被政府跟踪以参加抗议活动,前往他们的礼拜场所或仅仅生活。 ”
然后在4月,横跨技术和学术领域的20名AI研究人员呼吁亚马逊专门停止向执法机构出售其Rekognition面部识别软件。研究人员认为,问题的症结在于没有足够的法规来控制该技术的使用方式。
它说:“我们呼吁亚马逊停止向执法部门出售承认书,因为没有防止滥用的立法和保障措施。” “没有法律或要求的标准来确保以不侵犯公民自由的方式使用承认。”
但是,亚马逊后来记录在案,称只要合法,它将使用面部识别技术为任何联邦政府服务。
这些争议也不仅限于美国-世界各地的国家和公司都必须解决这一全球性问题。伦敦的国王十字火车站(King’s Cross Railway Station)于八月成为头条新闻,当时该公司被发现在CCTV安全摄像机中采用了面部识别技术,这不仅引起了人们对道德规范以及合法性的质疑。另一份报告还发现,当地警察提交了7个人的照片,以与King’s Cross的面部识别系统配合使用,这一交易直到昨天才公开。
所有这些例子都证明了AI的发展已经超过了社会进行适当制衡的能力。
推回
数字技术的发展速度通常太快,无法跟上法规或外部监督的步伐,但我们现在开始看到重大的法规限制,尤其是与数据隐私有关的措施。加州消费者隐私法案(CCPA)将于2020年1月1日生效,旨在增强全州消费者的隐私权,而欧洲目前也在权衡一项新的《电子隐私权法规》,该法规涵盖了个人权利关于电子通讯的隐私权。
但近来最大的监管进展是欧洲的通用数据保护条例(GDPR),其中规定了有关公司应如何管理和保护其客户数据的各种规则。任何一家违反GDPR的公司都将面临巨额罚款,正如Google今年早些时候发现的那样,当时法国数据隐私机构CNIL因其个性化广告“缺乏透明度”而被其处以5000万欧元(合5700万美元)的罚款。在其他地方,英航(British Airways)和酒店巨头万豪(Marriott)因庞大的数据泄露事件分别被罚款2.3亿美元和1.23亿美元。这样的罚款可能会激励公司将来更好地管理数据,但是在某些方面,我们现在开始看到的法规太少太迟了-隐私之船起航了。
Kind表示:“回滚是一件非常困难的事情-我们已经看到,它涉及法规的整个数据保护领域,其中技术的发展速度远远快于法规的发展速度。” “所有这些公司继续前进,并开始采取所有这些做法;现在我们有了GDPR之类的东西试图将其中的一部分撤回,这非常困难。”
回首过去的15年左右的时间(云计算和无处不在的计算已占据一席之地),也许有一些关于社会如何进行AI研究,开发和部署的经验教训。
Kind继续说道:“在推出其中一些东西之前,让我们放慢脚步,以便我们真正了解社会影响,然后再勇往直前。” “我认为危在旦夕。”

姓 名:
邮箱
留 言: