您的想法和欲望不再是您自己的

 
我们生活在偏执的时代，技术的进步激起了至少部分的偏执狂。监视和预测的新技术削减了两种方式：它们可用于预防犯罪和预测疾病，但也可用于社会控制和政治压制。这些问题中哪一个更为重要正在引起高度争议。最近在香港举行的抗议活动突显出，先进的面部识别技术与内置在特殊路灯柱中的闭路电视相结合，可以使国家随意跟踪和逮捕个人。
但是潜在的问题远不止于此，这仅仅是对当前执法技术的扩展。人工智能和深度学习的巨大进步使人们有可能改进通常称为“推拿”的更微妙的社会控制手段。这意味着让人们去做您想让他们做的事情，或者被认为对他们有益的事情，不是直接强迫，而是通过巧妙地选择利用人们的自然偏见和懒惰的违约(我们对这两者的了解比以前更好了，这要归功于Daniel Kahneman和Amos Tversky的心理学研究)。
赞成和反对轻推的论点涉及微妙的哲学原理，我将尽力而为地解释这些原理。让人们去做“对他们有什么好处”会引起几个问题：谁来决定什么对自己有好处?他们的决定正确吗?即使是这样，我们是否有权强加?
自由民主制(与俄罗斯或中国相比，这仍然是我们要做的事情)取决于公民有能力就对自己的生活至关重要的事项做出自由决定，但是如果广告，成瘾或社会民主主义的固有缺陷该怎么办?卡尼曼发现的人类推理如此扭曲他们的估算，以致于他们不再有意义地自由了?如果他们的举止与自己表达的兴趣背道而驰，损害了他们的健康，该怎么办?这种行为的例子以及我们已经成功解决的例子包括汽车上的强制安全带(成功)，摩托车安全帽(成功)，禁烟(部分成功)和美国的枪支管制(完全失败)。
这种控制被称为“家长制”，在复杂的现代社会中，国家的运作在某种程度上是必要的，无论在金钱和冒犯的自由方面，赌注足够高(如吸烟)和强加成本的地方，足够低。但是，有一些自由主义者批评者根本拒绝任何形式的家长制，而处于中间立场的“自由主义者的家长制”则主张国家无权施加权力，而只能推动人们做出正确的决定。一个示例可能是选择加入还是选择退出各种协议，从手机合同到担保，从抵押到隐私协议。人们很懒惰，通常会选择默认选项，对它的谨慎选择可以推动而不是强迫他们做出所需的决定。
人工智能的进步正在放大推论到妄想症的程度。我在最近的AI会议上看到的最讨厌的东西是一个应用程序，该应用程序使用面部分析读取购物者的情绪状态，然后即时提高或降低提供给他们的商品的价格。或Ctrl-Lab的应用程序又如何呢?该应用程序以非侵入方式读取了您移动光标的意图(Facebook刚刚收购了该公司)。由于声带也是肌肉，因此可以通过更深入的学习来扩展非侵入性方法，以预测您的语音意图，头脑中的声音，您的思想……
在有关家长式的争论中，我避免了两个极端。我确实认为气候危机确实存在，为了生存下去，我们需要对人类的行为进行很多修改，因此任何帮助都是有用的。另一方面，我曾经是《 Oz》杂志的编辑，在1960年代是个自由主义者的议论者。在最近的《卫报》采访中，这具讽刺性的喜剧作家克里斯·莫里斯(Chris Morris)(《四眼狮子》的《黄铜眼》)描述与一名机管局男子会面，并向他展示了他的货车中的监控套件，记录了他的驾驶习惯。莫里斯问他是否觉得这是“令人毛骨悚然的”，但那个人回答：“不是真的。我女儿刚刚通过驾照考试，我已经为她购买了半价保险。她的车上有一个黑匣子记录仪，仪表板上的摄像头可准确测量她的驾驶方式和面部动作。只要她保持在保险公司设定的参数之内，她的保费就一直保持在较低水平。”这种超级推论很不舒服地接近中国的惩罚性社会信用体系：在美国行为主义者BF之后，莫里斯称其为“斯金纳盒子”。斯金纳(Skinner)用它来调节老鼠。