获得图灵奖的AI研究员警告不要进行秘密研究和虚假的“自律”

 
据悉，Yoshua Bengio上个月赢得了着名的图灵奖，与Geoffrey Hinton和Yann LeCun一起赢得人工智能方面的工作，他担心这项技术在闭门造车中的作用。在接受大自然的采访时，他解释了他的担忧，但注意避免听起来像一个灾难预言者。
蒙特利尔学习算法研究所的一位教授，他的主要关注点并不是一个特殊的噩梦场景，而是简单地认为人工智能是由那些控制不多的人追求的。
“许多最令人担忧的事情并非在光天化日之下发生，”他说。 “它发生在军事实验室，安全组织，私营公司，为政府或警察提供服务。”
我们当然看到，所有主要的科技公司都以某种方式提供或考虑政府和军事工作，从良性到明显的冲突导向。 “杀手无人机是一个大问题，”Bengio直言不讳地说道。可能是以这种方式研究人工智能可以挽救或改善许多生命 – 但除非研究是在公开场合进行的，否则我们怎能知道呢?
他说，即使是以良好意图发明的模特和想法也可能被一个坏演员所颠覆。 “滥用的危险，特别是威权政府，是非常真实的。从本质上讲，人工智能是一种可以被当权者用来保持这种权力并增加它的工具。“因此，一个组织或政府承诺道德使用或遵守最佳实践是不够的。下一个(或同一个中的下一个领导者)可能不会。
他认为，解决方案是开放和有条理的讨论，然后是国际上制定的强有力的，明确的监管。
“自我监管不会起作用。你认为自愿征税有效吗?它没有，“他说。 “遵循道德准则的公司对于那些没有遵守道德准则的公司将处于不利地位。这就像开车一样。无论是左侧还是右侧，每个人都需要以同样的方式驾驶;否则，我们遇到了麻烦。“
首先，他建议研究人员和其他人研究并签署“蒙特利尔宣言”，这是一套尊重自治，隐私和多样性的原则。
尽管如此，Bengio对这项技术的未来持乐观态度 – 很难想象有人如此深入并不断地参与其中。面试的其余部分同样有趣，因为他对AI社区面临的其他问题有着直截了当，现实而乐观的看法。在这里阅读。