自动驾驶将要进行考试

在Isaac Asimov的科幻小说中有三条关于机器人安全定律，它们看似简单明了，但情节的发展却揭示了意想不到的复杂性。相关人员在制定自动驾驶汽车安全标准时也用类似的简单语言表达了他们的目标。目前有小组正在开发自动驾驶汽车如何与人类互动以及与他人互动的标准，然而他们面临的现实世界问题比科幻小说要复杂得多。

自动驾驶汽车的倡导者们声称，把车交给AI驾驶，每年可以减少全球130万人死于机动车。然而，自动驾驶也会杀人，这让公众变得谨慎起来。美国国家运输安全委员会近期公布的文件称，2018年3月，亚利桑那州一名行人被自动驾驶的Uber车撞死，原因是车辆的安全驾驶员、优步公司和亚利桑那州的安全问题。即使是无关痛痒的安全故障也是致命的，比如一辆处于自动驾驶模式的Tesla没有足够的智能来避免撞上一辆停着的消防车。

密歇根大学(University of Michigan) Mcity自动驾驶汽车测试实验室(Mcity autonomous vehicle testing lab)副主任Greg McGuire表示，自动驾驶汽车的安全标准对于公众接受这项新技术“绝对至关重要”。“没有它们，我们如何知道自动驾驶是安全的，如何获得公众信任?”他补充说，赢得信任需要通过一个开放的过程来制定标准，公众可以仔细审查，甚至可能需要政府的监管。

开发自主技术的公司已经注意到了这一点。今年早些时候，包括Aptiv、奥迪、百度、宝马、戴姆勒、英飞凌、英特尔和大众在内的11家公司的合作撰写了一份题为《自动驾驶安全第一》的白皮书。他们敦促将有安全特性的功能设计到自动驾驶中，并利用网络安全来确保重要数据的完整性，比如车辆环境中其他物体的位置、移动和识别。他们还要保证验证机器功能在各种操作条件下的性能。

11月7日，国际电信联盟(International Telecommunications Union)宣布成立一个名为“自动驾驶和辅助驾驶人工智能”(AI for Autonomous and Assisted Driving)的小组。其目标是:为控制自动驾驶汽车的人工智能(AI)系统制定性能标准。(国际电联自1865年成立国际电报联盟(International Telegraph Union)以来已经走过了漫长的道路，该联盟的任务是规范电报服务的运营。)

自动驾驶联盟的焦点小组主席Bryn Balcombe表示，该标准旨在成为“我们道路上人工智能的图灵测试”。如果一台电脑能让人误以为它是人，它就能通过图灵测试。人工智能测试至关重要，可以确保司机和自动驾驶汽车背后的人工智能相互理解，并预测彼此的行为和风险。

在一份规划文件写到，人工智能的发展应该符合公众的期望:

•人工智能从不从事粗心、危险或鲁莽的驾驶行为

•人工智能始终保持意识，愿意，并能够避免碰撞

•人工智能达到或超过了称职、谨慎的人类驾驶员的表现

汽车的AI算法总体目标类似于阿西莫夫定律(Asimov’s laws)，它们禁止伤害人类，并要求它们遵守人类命令，保护自己的存在。但国际电信联盟的文件有一份包含15项“可交付成果”的清单，其中包括为评估人工智能制定规范，以及为验证人工智能在道路上的表现起草技术报告。

但这里有一个核心问题，如何说服公众将驾驶这项生死攸关的活动特权赋予一项技术，因为我们已经遭遇了令人尴尬的失败，比如对少数族裔的误判，导致旧金山禁止警察和市政机构使用面部识别技术。

McGuire说到，测试AI驾驶的能力非常复杂，人类的适应性使我们成为相当好的驾驶员。“我们并不完美，但我们在这方面做得很好，在两次致命的交通事故之间，我们通常能行驶1亿英里。” 在真实世界的测试中增加这么远的距离是不现实的——而且这只是统计意义所需的数十亿英里车辆里程的一小部分。这是开发人员转向模拟的一个重要原因。计算机可以帮助他们增加虚拟里程，以发现在罕见情况下才会出现的安全隐患。

McGuire表示，AI还不足以保证汽车的安全性。“AI必须以人类能够理解的方式工作。“由于汽车都停在了大多数人都想不到的地方，所以导致了自动驾驶汽车的追尾事故。或者即使一辆卡车离骑车人很近，也可以认为是安全的。

其他组织也在开发自动驾驶的标准，国际电信联盟覆盖了辅助自动驾驶和全自动车辆，保险商实验室正在研究全自动汽车的标准。包括汽车公司、Lyft、Uber和SAE国际(前汽车工程师协会)在内的自动车辆安全联盟正在为SAE 4级和5级自动车辆制定安全原则。BSI集团(前身是英国标准协会)为联网和自动驾驶汽车的英国标准制定了一项战略，目前正在制定这些标准。