人工智能准备好成为我们安全系统的骨干吗?

 
在过去的十年中，人工智能已大大改善，以至于AI驱动的软件已成为主流。包括学校在内的许多组织正在采用AI驱动的安全摄像头来密切监视潜在威胁。例如，亚特兰大的一个学区使用AI驱动的视频监控系统，该系统只需单击即可提供捕获到视频的任何人的当前行踪。该系统将花费该地区1,650万美元来装备约100座建筑物。
这些基于AI的监视系统被用于识别人员，可疑行为，枪支，并随着时间的推移收集数据，这将有助于根据举止和步态识别嫌疑人。其中一些系统用于识别先前被禁止进入该地区的人员，如果他们返回，该系统将立即向官员发出警报。
学校希望使用基于AI的顶级视频监控系统，通过识别枪支，被暂停或驱逐的学生，来防止大规模枪击事件，并提醒警察注意现役射手的下落。
基于AI的安全系统也正在家庭和企业中使用。基于AI的视频监控似乎是完美的安全解决方案，但准确性仍然是一个问题，并且AI不足以进行行为分析。 AI尚未真正能够得出独立结论(尚未)。 AI充其量只能识别模式。
AI并不完全可靠-到目前为止
乍一看，人工智能可能比人类看起来更聪明，更不易出错，并且在许多方面都是如此。 AI可以快速执行繁琐的功能，并识别由于感知偏差而人类看不到的模式。但是，人工智能并不是完美的，有时基于人工智能的软件会造成灾难性和致命的错误。
例如，在2018年，一辆自动驾驶的Uber汽车在亚利桑那州坦佩市撞死了一个过马路的行人。方向盘后面的人“安全驾驶员”没有注意道路，也没有进行干预以避免碰撞。汽车拍摄的视频显示安全驾驶员朝她的膝盖向下看。警方记录显示，事发前她正在看《声音》。这并不是自动驾驶汽车发生的唯一撞车事故或死亡事故。
如果AI软件反复犯下严重错误，我们如何依靠AI来为我们的安全系统提供动力并识别可信威胁?如果将错误的人员识别为威胁或真实威胁却未被注意怎么办?
人工智能驱动的面部识别存在固有缺陷
使用AI驱动的视频监控来识别特定人员在很大程度上依赖于面部识别技术。但是，使用面部识别存在一个固有的问题-人的皮肤越黑，发生的错误就越多。
错误?性别识别错误。一个人的肤色越深，就越有可能被误认为是异性。例如，由M.I.T的研究人员进行的一项研究发现，浅肤色的男性约有1%的时间被误认为女性，而浅肤色的男性约有7%的时间被误认为男性。深色皮肤的男性在12%的时间内被误认为女性，深色皮肤的女性在35%的时间内被误认为男性。这些不是小错误。
面部识别软件开发人员意识到对某些种族的隐性偏见，并且正在尽其所能来改进算法。但是，该技术尚不存在，要等到它出现时，谨慎使用面部识别软件可能是个好主意。
面部识别软件的另一个问题是隐私。如果算法可以跟踪某人的一举一动并通过单击显示他们的当前位置，那么我们如何确定该技术不会被用于侵犯人们的隐私?这是一些纽约居民已经在斗争的问题。
纽约的房客使用面部识别技术与房东作斗争
美国各地的房东开始使用AI驱动的软件来锁定建筑物的安全性。在布鲁克林，有130多个租户正在与一位房东作斗争，该房东想安装面部识别软件来代替金属和电子钥匙进入建筑物。租户很沮丧，因为他们不想在家中进出时被跟踪。他们已向纽约州提出正式申诉，以阻止此举。
乍一看，使用面部识别进入公寓楼听起来像是一种简单的安全措施，但是正如Green Residential指出的那样，租户担心这是一种监视。这些担忧是有根据的，官员们正在注意。
布鲁克林市议员布拉德·兰德(Brad Lander)推出了KEYS(保持您的家庭无监视进入)法案，以防止房东强迫房客使用面部识别或生物特征识别扫描仪进入其房屋。大约在实施《 KEYS法案》的同时，加利福尼亚州旧金山市成为美国第一个禁止警察和政府机构使用面部识别技术的城市。
由于此类智能技术相当新，因此目前尚未获得立法批准。 KEYS法案以及其他法案可能成为规范面部识别和生物识别软件商业使用的第一部法律。其中一项法案将阻止企业默默地从客户那里收集生物特征数据。如果该法案成为法律，则当企业收集虹膜扫描，面部图像和指纹等数据时，必须通知客户。
专家已经公开承认，许多人脸识别监控的商业部署都是秘密进行的。人们被追踪的时间比他们想象的要长。大多数人不希望在现实生活中像在网上那样被跟踪，但是这种情况已经发生了一段时间。
如果AI驱动的视频监控收集的数据使用不当怎么办?
除了隐私问题之外，如果这些视频监视系统收集的数据用于非法或险恶的目的该怎么办?如果将数据移交给营销商怎么办?如果某人可以访问数据并决定跟踪或骚扰某人或更糟的事情–了解他们的活动方式，然后在他们不在家时闯入他们的房子怎么办?
使用基于AI的视频监控的好处是显而易见的，但这可能不值得冒险。在面部识别错误识别错误和可能的故意虐待之间，这项技术似乎并不符合公众的最大利益。
对于大多数人来说，通过视频监视进行跟踪和识别的想法就像乔治·奥威尔(George Orwell)1984年的一幕。
借助AI驱动的视频监控功能可以等待
对于大多数组织而言，斥巨资购置一款AI驱动的视频监控系统可以等待。如果您没有迫切需要不断监视可疑人员并密切注意潜在威胁的情况，则可能不需要AI系统。诸如学校和活动场所之类的组织是不同的，因为它们通常是大规模枪击和爆炸的目标。配备面部识别视频监视系统只会提高他们抓捕和阻止肇事者的能力。但是，在需要拍摄和跟踪居民的地方安装面部识别系统是另一回事。
可能会有一段时间，世界各地的城市都配备有监视人们的一举一动的监视系统。中国已经在公共场所实施了这种类型的系统。尽管在中国，监视系统专门用于跟踪公民。在美国和其他国家/地区，收集的数据也将用于营销目的。
当然，城市总是有可能会使用监视数据来改善交通流量，行人通向人行道和停车状况等情况。
在保护隐私的同时利用这一强大技术的挑战是一项挑战，需要市政官员，法院和市民之间进行协作。现在还不知道如何监管这项技术还为时过早，但是在未来几年中它将变得更加清晰。