我们人类容易犯错，不完美，容易犯错和出现基本的判断失误。因此，我们发明技术来帮助自己。以推出自动驾驶汽车的计划为例。人们相信，这项技术将加强安全。但在当前发展阶段，这是一个非常大胆的假设。

首先，支持这种观点的证据并不存在。我们拥有的最好数据来自加州在2016年期间进行的测试。必须记住，这个州拥有温暖的气候，很难代表全球的驾驶状况。

谷歌的Waymo得分最高，每驾驶5127英里需要一次人为干预。这比上一年有所改善，但远远算不上完美。2016年，Waymo的60辆测试汽车的驾驶总里程约为1.0597万英里，其间每辆汽车需要至少两次干预。

特斯拉的表现糟糕得多。去年，这家电动汽车制造商有4辆汽车接受测试，每辆汽车的平均行驶里程为137英里，每辆汽车发生45次人为干预，大约每3英里一次。每次干预代表着一起潜在被避免的事故。

鉴于多数行业观察者认为公众不会容忍任何故障，因此这些结果都不振奋人心。相关技术确实在改进。但还有一个事实，自动驾驶汽车早在上世纪90年代中期就已出现，甚至当时就有一款汽车的“自动驾驶比例”达到了98.2%。

然而，即便能够克服技术挑战，意料之外的负面外部性也很可能难以逾越。

优步在亚利桑那州的最新自动驾驶汽车事故恰恰说明了这点，事故责任方是另一辆汽车的人类驾驶员，而非优步的汽车。在这个例子里，责任人没有让路，这令人关注即将到来的自动化过渡的最大挑战之一：人类和自动驾驶汽车必须能够安全互动。

然而，推动人类行动的因素与算法的运行迥然不同。在基本层面，多数驾驶者都有意保护自己，保护其他人。复杂的算法并不能保证会如此。

也有例外，例如最近伦敦发生的恐怖袭击。但是淘汰人类驾驶员不一定会减轻风险。那些自动驾驶汽车可能很容易变成武器，因为他们只需要被黑客入侵，而不需要由恐怖分子驾驶。

与此同时，2014年，因酒精中毒导致死亡的美国人数量是致命车祸的3倍。因此，如果驾车会鼓励人们保持清醒，另一个意外后果可能是当人类摆脱了这种责任后，滥用酒精和药物的人数会上升。

还有就是我们不得不相信程序员。通常，在企业界，雇主会精心设计奖惩计划，以确保员工有动力把工作做得尽可能好，即便偷工减料对他们有利。他们会被追究责任。在人类草率行为可能对他人造成特别糟糕影响的领域，这种激励更为重要。

然而，自动驾驶汽车将由程序员大军编程和维护，就问责机制而言，这些程序员受益于他们人数众多。我们能够确定他们会一直得到妥善激励吗？

最后，尽管自动驾驶技术将增强人类驾驶技能的说法理由充足，但风险在于这可能导致人类能力的退化。我们肯定不想冒这个险：在我们真正需要这些能力时，却发现它们不存在了。