您的位置:首页 > 资讯 > 服务机器人 > 行业动态 > 正文

关于人工智能的“电车难题”的崭新思考

2022-05-26 15:21 性质:转载 作者:李开复 来源:深科技
免责声明:无人系统网(www.youuvs.com)尊重合法版权,反对侵权盗版。(凡是我网所转载之文章,文中所有文字内容和图片视频之知识产权均系原作者和机构所有。文章内容观点,与本网无关。如有需要删除,敬请来电商榷!)
本文为创新工场董事长兼首席执行官李开复博士在本周于瑞士召开的2022年达沃斯世界经济论坛的专栏文章,经授权编译。自主机器人和自主决策的确可能造成致命错误。...

本文为创新工场董事长兼首席执行官李开复博士在本周于瑞士召开的2022年达沃斯世界经济论坛的专栏文章,经授权编译。

  • 自主机器人和自主决策的确可能造成致命错误。

  • 因机器人错误而造成的死亡,将造成道德两难的新时代“电车难题”。

  • 如果社会接受机器学习,并竭力以负责任的态度导入机器人技术,更多生命将会因此得到拯救。

在未来 20 年内,随着机器人技术的进步,自动驾驶汽车、工业机器人和医用机器人将拥有更强的能力、更高的自主性,并得到更为广泛的应用。不可避免,这些自主机器人可能会犯下决策方面的错误,造成数百上千人死亡。但如果人类参与其中,这种灾难是可以避免的。

这样的未来固然可怕,不过一旦人类社会能负责任地运用机器人技术,获救的生命将多于造成的死亡。

机器学习的过程

机器人并非经由人类“编程”而模仿人类的决策过程。它们从大数据中学习,利用从数据中推导出的复杂数学公式,执行诸如“识别红绿灯”之类的任务。机器学习过程需要的数据量远远超过人类所需。然而,一旦经过训练,机器人在任何特定任务中的表现都将优于人类。借由机器学习,人工智能和机器人的性能在过去五年里已经获得了极大的提升。

我在这篇文章提出的观点适用医疗健康、制造业及其他正在快速实现自动化的行业。先以自动驾驶为例,一位经验丰富的人类司机,一生中可能有几十万英里的驾驶经验,而谷歌旗下的自动驾驶汽车公司Waymo,仅在2021年一年间就完成230万英里的上路测试里程,其背后的AI技术通过数据学习了每一辆车的驾驶经验,而且这些自动驾驶车辆永不疲劳,也不像健忘的人类司机,可能忘记他们曾经犯的错误。

特斯拉公司的“智能召唤”功能首次推出后,汽车可以在没有车主操作的情况下,离开停车位并绕开障碍物。一开始许多用户抱怨这个新功能表现得不尽如人意,但在短短几周内,特斯拉公司便收集了早期用户的数据,重新训练了新功能背后的机器学习模型。从此,“智能召唤”显著获得改进,成为了特斯拉新车的一大关键竞争优势。

自主机器人可以挽救生命

可供学习的数据日益增加,人工智能的能力也随之快速提升,AI 变得更精准,适应性更强,也更安全。随着越来越多的机器人进入主流日常应用,其应用领域越来越广,标志着功能性机器人技术正得到逐步普及。自动驾驶将从“握住方向盘”到“放开方向盘”,进而发展到“无需监视”,乃至“无需关注”,并最终进化到“无方向盘”的全自动状态。

可供学习的数据日益增加,人工智能的能力也随之快速提升,AI 变得更精准,适应性更强,也更安全。随着越来越多的机器人进入主流日常应用,其应用领域越来越广,标志着功能性机器人技术正得到逐步普及。自动驾驶将从“握住方向盘”到“放开方向盘”,进而发展到“无需监视”,乃至“无需关注”,并最终进化到“无方向盘”的全自动状态。

中国的自动驾驶企业文远知行便是一个很好的范例。这家公司已在中国数个城市部署了无人小巴和无人环卫车。相较于无人驾驶出租车,它们在运行环境上受到了更大的限制,但与人类司机相比,安全性有了大幅提高。这些车辆在特定环境下运行并收集大量数据后,最终将摆脱这些初期上路的限制条件。

2021年,文远知行WeRide无人小巴在广州开展测试。

在机器人技术从简单应用通往复杂场景的发展过程中,我们将获得更多数据,从而提升其性能和安全性。举例来说,在未来十年里,通过减少人为失误(这是道路事故最常见的原因),自动驾驶汽车仅在英国就可以防止47000起严重交通事故发生,挽救3900人的生命。兰德公司的研究发现,即使自动驾驶的安全性仅比人类驾驶高 10%,换算过来也能够拯救许多宝贵的生命。

道德困境

对于机器人的大规模应用,大部分人仍然表现出极大的担忧,包括对机器错误导致人类丧命的道德争议。古典的“电车难题”是指一种道德困境,经典假设是旁观者可以通过切换失控电车的轨道,虽然会因此撞死一个人,却能拯救另外五个人。这一难题说明了攸关“谁生谁死“的选择,本质上是一种道德判断,这样的决策不应该交给无情的机器。

然而,机器人和人类的感知方式不同,出现的错误类型自然也就不同,这使得“道德困境”进一步加剧。举例来说,机器人反应迅捷,注意力始终集中,但可能会误判障碍物,例如优步的无人驾驶汽车就曾把推着自行车过马路的行人误判为汽车,并因此预判它比自身行进的速度更快。

人类失误和机器失误之间的差异,使得公众更加难以接受由机器人导致的死亡,如果他们曾经听闻了类似 2018 年美国凤凰城车祸事件后的媒体渲染报道,一定更难释怀。一旦各种媒体持续以谴责性的大标题,有失偏颇地放大抨击每桩自动驾驶致死的案例,那么人们很可能会对自动驾驶系统彻底失去信心,即便这项技术最终有可能拯救数百万人的生命。

若是人类司机造成他人死亡,他们将面临法律的判决并承担相应后果。但“人工智能的黑匣子”无法以人类可理解的词句,或者在法律和道德上正当合理的人类语言,向法官和公众解释肇事决策的原由。

另一点需要商榷的是问责问题。在凤凰城的那场事故中,汽车里的人类司机被指控犯有过失杀人罪。但是,在这一案件中,汽车制造商、人工智能算法供应商或工程师应该为此负责并承担一定的法律责任吗?只有问责归属明确,我们才能有共识和准则的基础来建立一个完善的自动驾驶生态系统。

人工智能和机器学习时代的“电车难题”

既然机器人技术可以挽救无数生命,那么只要证明它比人类略胜一筹,我们就有充分的理由大举推广自动化技术。我认为,我们应把握一切机会推出对人类有助益的机器人自动化工具,它们初期应在受限制的特定环境中使用,然后再逐步规模化采用,最终获得更多自主权及更广泛的推动。通过这种循序渐进的方式,我们一方面可以收集更多的数据,提升机器人的性能,另一方面能够最大限度地降低危及人类生命的事故。

考虑到可能出现的异议,我们需要共同努力,让大众更了解机器人技术带来的短期阵痛和长期效益。只有这样,我们才能在拥抱自动化技术的进程中,逐渐培养出负责任和严谨的态度,让机器人更好地为人类社会服务。


网友评论
文明上网,理性发言,拒绝广告

相关资讯

  • 学术圈00后创业者 零次方机器人亮相中国机器人学术年会
    8月1日至3日,以“人机共融,智向未来”为主题的第六届中国机器人学术年会(CCRS2025)在长沙国际会议中心盛大举行。作为我国机器人领域规模最大的学术盛会,本...

    2025-08-08 14:45

  • 认知机器人会成为工业流程的未来吗?
    认知机器人技术标志着现代机器人系统发展的新方向,与传统解决方案相比,它可能成为一个突破。受人脑运作方式的启发,认知机器人技术不仅改变了机器的设计方式,...

    2025-08-05 15:12

  • 德媒《it-zoom》:人形机器人即将取得突破
    人形机器人的发展瞬息万变。中美之间的较量,以及人工智能、电池和机械技术的进步,都在推动这一趋势的发展。很快,像 Neura 的 4NE-1 这样的类人机器人除了...

    2025-08-05 15:12

  • 欧洲首个 CE 合规无人驾驶物流车辆迈入工业部署
    近年来,自动化港口及场内运输成为物流领域重要增长点,尤其在安全、可靠的无人操作环境下,监管认证成为关键。近日,总部位于德国慕尼黑的自动化物流方案公司 ...

    2025-08-05 14:56

  • 叉车车队的人工智能驾驶安全追踪系统在英国问世
    位于英国伍尔弗汉普顿的托盘配送网络公司 Pallet‑Track(英国) 日前宣布与美国物联网与 AI 平台提供商 Samsara(美国) 建立战略合作,联合推出英国首个...

    2025-08-05 14:56

  • 《Power & Motion》:非公路用设备市场预计将复苏并长期增长
    预计 2026 年全球非公路设备市场将复苏,而基础设施投资和其他大趋势将推动长期增长。您将学到:(1)为什么非公路设备市场要到 2026 年才会复苏。(2)全球...

    2025-08-01 10:44

  • 韩国现代集团推AI充电机器人试点仁川机场
    2025年5月中旬,韩国现代集团(South Korea’s Hyundai Motor Group)联合韩国起亚公司(Kia Corporation)与仁川国际机场(Incheon International Airpo...

    2025-07-30 19:03

  • 分析机构下调 AMR 与 AGV增长预期
    随着跨境贸易政策波动、宏观经济不确定性加剧及部分地区仓储建设放缓,权威机构英国 Interact Analysis(互动分析)在其最新研究报告中做出重大调整:2025 年...

    2025-07-29 09:36

  • 德国慕尼黑自动化展Automatica 2025开幕
    2025年6月24日,在德国慕尼黑举办的Automatica 2025展会上,“Robotics on the Move”成为核心主题之一。该展不仅聚焦协作机器人(cobot)轻松融入中小企业...

    2025-06-26 14:36

  • 现代物流巴尔干地区进军新市场
    近年来,巴尔干地区逐渐成为物流领域的关键节点,凭借其先进的基础设施、履行网络以及数字化整合,帮助商家更容易地进入新市场。巴尔干地区的现代物流解决方案,...

    2025-05-07 13:25

热点资讯
推荐图文

关注官方微信

手机扫码看新闻