驾驶员|信任问题，自动驾驶技术面临的挑战( 二 ) ibm|李娅云|ai|京东集团|人工智

其他挑战同样是根本性的。人类很难监控大多数时候运行良好的自动化系统——这不仅是Waymo在十年前学到的教训，而且从航空到核能等各行各业都明白这一点。
麻省理工学院研究人员9月份发表的一项研究强调了这一点。
【驾驶员|信任问题，自动驾驶技术面临的挑战】他们发现，当启用Autopilot时，特斯拉司机眼睛偏离道路的频率更高、时间更长。对其他汽车制造商驾驶辅助系统的进一步研究正在进行中。

文章插图
如果系统引起了注意力不集中，它们会被认为是安全的吗？包括通用汽车在内的一些汽车制造商正在寻求和推广驾驶辅助技术，允许驾驶员将手从方向盘上移开。
卡内基梅隆大学专门研究嵌入式安全系统的教授菲尔·库普曼（Phil Koopman）说：“ADAS安全的问题在于，你是否正在构建一个非超人司机也能安全操作的系统？”
“我们告诉他们不要睡着，但我们知道事实并非如此。你不能忽视可预测的人类反应。”
随着驾驶辅助系统在汽车行业的普及，了解驾驶员的状态以及他们的反应准备，将比以往任何时候都更加重要。

文章插图
监测司机
在多次调查与自动驾驶相关的致命事故后，NTSB发现特斯拉对驾驶员行为的监控能力不足。
该委员会的建议包括，汽车制造商、标准机构和NHTSA都应该开发更好的应用程序和规则，以监测人类驾驶员的状态。

文章插图
2021年4月，行业组织汽车创新联盟概述了一套安全原则，以应对人们对驾驶员监控系统日益增长的需求。值得注意的是，特斯拉并不是这个行业组织的成员。
但这些自愿原则并没有与安装驾驶辅助系统的棘手问题发生冲突。他们只是说，例如，应该“评估”可预见的系统滥用。
NTSB的报告明确指出，特斯拉通过监测方向盘扭矩来监控驾驶员参与度的方法是不够的，该联盟只是表示，应该“考虑”基于摄像头的座舱系统——许多驾驶辅助系统的供应商都喜欢这种系统。
也许，与驾驶员监控技术的萌芽状态相比，这些原则的中庸性质是一个较小的问题。内视摄像头系统可以确保驾驶员的头部朝向前方的道路，更好的系统甚至可以透过太阳镜跟踪司机的眼神。
然而，在驾驶员注意力已经偏离，或者在他们需要纠误时，车载报警器才向发出鸣叫，不一定是最有效的。
“预测是预防的关键。”以色列初创公司Adam CogTec的联合创始人兼现任董事长埃雷兹·阿卢夫（Erez Aluf）说。该公司致力于开发一种技术，可以衡量司机的认知能力，并有助于提高人类的表现。

文章插图
更好的决策
从这个意义上说，驾驶辅助系统不仅监控司机，还是一种驾驶员管理技术，试图促进人与机器之间的合作关系。“这不是一个或另一个，”阿卢夫说，“而是一加一。”
当汽车不仅了解司机是否在盯着前方的道路，还了解司机在驾驶工作中的参与程度，它就能更好地决定何时交出控制权或保持控制权。

文章插图
信任是这种微妙合作的核心。德国亚琛工业大学的人类系统集成教授弗兰克·弗莱米施（Frank Flemisch）将其比喻为骑马者随着时间的推移，与他们的动物共同学习的一种直觉平衡。
但是，如果说机器驾驶员和人类驾驶员之间需要相互信任，那么在更广泛的层面上，驾驶员、大肆宣传自动化技术前景的汽车制造商、独立的第三方（如学术界和保险公司）以及监管机构之间，也需要这种信任。