三定律被打破? 不服从命令的机器人已经出现

  次阅读 作者:智能小宝 来源:互联网 2015-11-30 13:48 我要评论(0)

一般来说,人类制造机器人是为了让自己的生活更加方面,但如果我告诉你著名的机器人三定律中的第二条正在遭遇挑战,一种在特殊情况下可以不必服从人类命令的机器人已经被制造出来了,你会怎么想?

第一法则:机器人不得伤害人类,或坐视人类受到伤害; 第二法则:除非违背第一法则,机器人必须服从人类的命令; 第三法则:在不违背第一及第二法则下,机器人必须保护自己。

上面这个是著名科幻小说家艾萨克·阿西莫夫在小说《我,机器人》的引言中定下的机器人世界法则。现在 Tufts 大学人机交互实验室的研究者们却开始挑战第二法则了,他们研制的机器人可以在特殊情况下拒绝人类发出的指令。

三定律被打破? 不服从命令的机器人已经出现

在上面这个案例中,人类向这个机器人发出命令让它向前走,不过机器人却两次拒绝了人类的要求,因为它自己觉得前面已经没路了,这样对自己不安全。

三定律被打破? 不服从命令的机器人已经出现

上图演示的是另外一个案例,机器人前行的路上被布置了障碍物,当人类要求机器人继续向前走时,同样遭到了机器人的拒绝。

所以,机器人必须服从人类命令这一法则已然遭受了挑战。对于 Tufts 大学的这些研究们来说,他们想做的当然不是让机器人去挑战人类,由于人类往往会给机器下一些非常荒谬的命令,所以整体上来说研究者们希望人能与机器更好的交互。在上面的这两个案例中,机器人都给出了拒绝人类的理由,人类其实也可以根据机器人给出的理由来修正自己的命令,进而继续让机器做自己想让它做的事。

比如,在人类修正命令后,机器人还是按照人类的要求继续向前走了。

我看完之后想的是,当这么聪明的机器人被赋予深度学习能力后,真的会走上反抗人类的道路吗?

题图来源:站酷海洛创意

本站文章信息来源于网络以及网友投稿,本站只负责对文章进行整理、排版、编辑,是出于传递更多信息之目的,并不意味着赞同其观点或证实其内容的真实性。如果您有什么意见或建议,请联系QQ28-1688-302!

人工智能实验室
相关文章相关文章
  • 虚拟现实50年:这25人见证并书写了VR的九死一生

    虚拟现实50年:这25人见证并书写了VR的九死一生

  • 神舟十一号太空养蚕视频:蚕在景海鹏指尖玩游戏

    神舟十一号太空养蚕视频:蚕在景海鹏指尖玩游戏

  • 马斯克帮你重新设计了"太阳能屋顶":有四种风格

    马斯克帮你重新设计了"太阳能屋顶":有四种风格

  • 谷歌DeepMind刚做的两件事所带来的AI创业启示

    谷歌DeepMind刚做的两件事所带来的AI创业启示

网友点评网友点评
阅读推荐阅读推荐

据国外媒体报道,在过去两年内,聊天机器人(chatbot)、人工智能以及机器学习的研发和采用取得了巨大进展。许多初创公司正利用人工智能和...

霍金 视觉中国 图 英国著名物理学家霍金(Stephen Hawking)再次就人工智能(AI)发声,他认为:对于人类来说,强大AI的出现可能是最美妙的...

文|郑娟娟 今年,人工智能(AI) 60岁了。在AI60岁的时候,笔者想要介绍一下AI100,一个刚刚2岁的研究项目,但它的预设寿命是100年,甚至更长...

AlphaGo与李世石的人机大战,为大众迅速普及了人工智能的概念。 但对谷歌而言,除了下围棋,现在的人工智能进展到哪一步了?未来,人工智能...