无人驾驶如何解决著名的 “电车难题”

  次阅读 作者:智能小宝 来源:互联网 2016-01-11 13:44 我要评论(0)

“电车难题” 是一个伦理学领域的思想实验,自 1967年Phillipa Foot 提出以来,大批哲学家对此乐此不疲。

五个无辜的人被绑在铁轨上,一辆列车疾驶而来,他们死定了。除非你拉下列车控制杆,使列车朝另一个方向驶去,但那条轨道上有一个同样无辜的人。拉下控制杆,你能拯救五条生命,但会牺牲另一个:你如何选择才能不违背伦理?

随着时间的推移,这个问题演化出许多新版本,譬如:是选择让电车撞死五个人,还是把一个胖子推下去阻止列车前行(胖子也得死);还有一种,胖子恰巧就是这个把五位无辜者绑在轨道上的人,等等。如今,这个辩题因无人车的出现被赋予了新的生命。新的版本是:你的无人车将撞上一辆校车,它意识到它可以选择杀死你或者拯救一车的孩子。那么在设置程序时应该如何抉择?我已经记不清有多少次,“电车难题” 总是以各种故作严肃、远见卓识的未来主义姿态出现,并激怒我 。最糟糕的是,这个肤浅的题型不仅伪装深刻,还演化出各种貌似更深刻、意义更重大的形式。

我们可以换种方式思考:如果你想设计一辆车,让它在特定条件下故意杀害它的司机,你如何保证司机不会修改程序,确保自己永远不会被自己的汽车蓄意谋杀?

答案很明显,借鉴 iPhone 模式。设计一辆汽车,让它只能安装通过交通运输部(或制造商)认证的软件,并将教人解锁定以重罪。目前 iPhone、游戏机和其他设备都上了数字锁,即业内所说的 “DRM”(数字版权管理)。美国 1998年 颁布的 “数字千年版权法案” 和欧盟 2001年 颁布的 “协调信息社会的著作权指令"禁止去除数字锁,防止受版权保护的作品被盗版。泄露帮助他人解锁的信息,如设备中的漏洞等行为也会受到制裁。

围绕这个问题有很大争议。无人车的程序必须对一个公路上高速移动的对象负责,尤其是那些脆弱的人类。

但这在现实中显然根本行不通。大家都知道,每台被锁定的设备都可以轻易地 “越狱”。数字锁法规最主要的目的不是阻止人重新配置设备——而是确保他们不能在企业和产品的帮助下这样做。2002年 英国电信监管机构 OFcom 宣布了手机解锁合法化,解锁你的手机并不难,你可以自己从网上下载软件解锁,或找非法破解手机的人。

即使我们可以锁定汽车的设置,我们也不应该这样做。数字锁会在在计算机里建立了一个计算机所有者也无法进入的空间。数字锁的相关文件对所有者绝对不可见。当用户命令操作系统列车数字锁的目录下的文件时,文件必须被掩盖或忽略(以防用户删除或替换它们)。当用户命令操作系统列出所有运行的程序时,数字锁程序也应被忽略(以防用户终止程序)。

所有计算机都有漏洞。即使使用多年的软件,源代码被无数程序员检查过后,仍会有微小的漏洞。安全是一个过程,不是一个结果。准确地说,安全是一种识别漏洞的过程,以及在对手发现、利用漏洞之前打补丁的过程,也是一种防患于未然,在此之前将对手从系统中消灭,并修补他们造成的破坏的过程。

当 SONY BMG 将数字版权管理软件暗藏在大量计算机中以阻止 CD 泄漏,它得不被杀毒软件发现,因为杀毒软件可以准确将它识别为一个未经用户许可安装、违背用户意愿运行的程序。通过改变用户的操作系统,使其无视任何以一串特殊、秘密的字母串 “$sys$” 打头的文件。恶意木马作者一旦发现,就会利用它:当他们的程序侵入 SONY 授权的电脑,程序可以在 SONY 的掩护下,不被杀毒软件发现。

汽车体型庞大且行驶速度快,可以杀死用户和周围的人。黑客可以通过授权的软件控制刹车、加速器和方向盘(去年夏天的克莱斯勒公司因此召回 140 万辆汽车)。如果把汽车设计为无法修改的无人车,把任何驾驶员试图修改程序(比如在 “电车难题” 中选择自保)的做法视为自私的行为,把乘客视为敌人,事情就会更糟。

“电车难题” 愚蠢的假设之下隐藏着深意。互联网的世界已经出现了 “合法拦截”,留下后门以供警察监管。这些后门已成计算机安全问题的根源。比如 2011年 中国政府攻击 Gmail 账户,“合法拦截” 疑似政见不同的激进人士;以及 NSA 在 2004年 奥运会期间窃听希腊政府的竞选过程。

尽管存在这些问题,执法者仍希望留下更多后门。英国内政大臣 Theresa May 颁布的 “刺探者宪章",将迫使公司弱化产品的安全性,使监管用户成为可能。

我们似乎可以从无人车的合法拦截能力中获得启示:警察可以对你的车发送信号,让它停下。这会比"电车难题"带来更多问题:一种让汽车不按乘客意愿行驶的内置装置,对骗子、杀人犯和强奸犯来说简直是天赐良机。这些人能以此巧妙模仿执法机构的官员。不要说政府的警察这种行为在我们看起来是非法的——更别提叙利亚总统 Bashar al-Assad 的秘密警察,或是 Isis 控制下自封警察的恐怖分子了。

"电车难题"变得更棘手了:对城市规划者来说,无人车主要的吸引力在于可以减少路上的汽车数量,将私家车转化为一种无人驾驶的 Uber。Uber 甚至可以被看作一种无人车的演练。你和你的车存在某种关系,但你并不拥有它。你没有权利改变(甚至监视或确认)无人 Uber 里的软件。它会设置为让第三方控制。比如可以设置一种用户控制的紧急刹车,并委托保险公司管理,但保险公司显然不希望这种功能出现。

忘记"电车难题"吧:无人车注定会开启劳工关系、监听能力和资本分配的新篇章。

本站文章信息来源于网络以及网友投稿,本站只负责对文章进行整理、排版、编辑,是出于传递更多信息之目的,并不意味着赞同其观点或证实其内容的真实性。如果您有什么意见或建议,请联系QQ28-1688-302!

人工智能实验室
相关文章相关文章
  • 人类应该居安思危了 AI将大力冲击就业市场

    人类应该居安思危了 AI将大力冲击就业市场

  • 任天堂:Switch不太可能兼容VR内容

    任天堂:Switch不太可能兼容VR内容

  • 最大的基因检测公司停止研发 为何这事做不成?

    最大的基因检测公司停止研发 为何这事做不成?

  • 别只害怕机器人抢你工作:重新想想做啥比它更好

    别只害怕机器人抢你工作:重新想想做啥比它更好

网友点评网友点评
阅读推荐阅读推荐

据国外媒体报道,在过去两年内,聊天机器人(chatbot)、人工智能以及机器学习的研发和采用取得了巨大进展。许多初创公司正利用人工智能和...

霍金 视觉中国 图 英国著名物理学家霍金(Stephen Hawking)再次就人工智能(AI)发声,他认为:对于人类来说,强大AI的出现可能是最美妙的...

文|郑娟娟 今年,人工智能(AI) 60岁了。在AI60岁的时候,笔者想要介绍一下AI100,一个刚刚2岁的研究项目,但它的预设寿命是100年,甚至更长...

AlphaGo与李世石的人机大战,为大众迅速普及了人工智能的概念。 但对谷歌而言,除了下围棋,现在的人工智能进展到哪一步了?未来,人工智能...