对话马斯克:如何防止人工智能掌控世界

  次阅读 作者:智能小宝 来源:互联网 2015-12-19 08:46 我要评论(0)

对话马斯克:如何防止人工智能掌控世界

注:特斯拉CEO Elon Musk和YC掌门Sam Altman联合创办了非盈利人工智能项目OpenAI,想要研发“仁慈”的人工智能,同时将研究数据开源,避免人工智能集中在少数人手中。该团队已经招揽了大批世界级人才。本文对OpenAI的两位创始人进行了采访,深入了解他们创立OpenAI的初衷以及运行构想。

人工智能这个领域过去似乎并没有这么火热,而现在,像谷歌、苹果、Facebook、微软,甚至是日本丰田之类的汽车公司都开始争相雇佣人才,踏入这个与众不同的新市常

2015年12月12日,特斯拉CEO Elon Musk在推特上正式宣布启动非盈利人工智能项目OpenAI,立誓公开研究成果,包括代码和专利,和世人共享。一些人担心一旦人工智能超越了人类智能,会发生像电影《终结者》那样的末日之灾。而OpenAI所做的一切就是为了防止这种恐惧成真。

包括Elon Musk、LinkedIn 创始人Reid Hoffman、PayPal联合创始人Peter Thiel、YC创始合伙人Jessica Livingston在内的许多科技名人,以及亚马逊云服务都对OpenAI进行了投资。他们共同承诺会在接下来很长一段时间内,对OpenAI投资10亿美元以上。

OpenAI联合主席是Musk以及YC孵化器CEO Sam Altman。同时YC也是投资方,Sam Altman本人也是创始人。尽管如此,OpenAI还是一家独立公司。

OpenAI在本质上是一个研究实验室。建立这个实验室的目的在于监督企业和政府,以免这两个群体依靠超级人工智能系统过度榨取利润或者谋取权力,并以此压制市民。

这个想法听起来似乎不切实际,但是该团队已经招揽了大批世界级人才,首席技术官是前Stripe首席技术官Greg Brockman,研究总监是世界级研究员 Ilya Sutskever。Ilya Sutskever曾在谷歌任职,是多伦多神经网络大师Geoff Hinton的得意门生。其他员工也都是来自Facebook AI、DeepMind(2014年被谷歌收购的人工智能公司)等大型公司的顶尖人才,年轻有为,简历漂亮。同时,公司还有包括美国计算机科学家Alan Kay在内的一流顾问团。

下面是对两位创始人Elon Musk和Sam Altman的采访内容:

怎样想到要创立OpenAI的呢?

Sam Altman:虽然大约一个半月前,我们才成立了研究实验室YC Research,但我和Elon其实从很早之前就在考虑人工智能的问题了。如果要给未来这个世界最重要的东西做个排行榜,我想好的人工智能可能会位列前茅。所以我们创办了OpenAI,尝试开发一种“仁慈”的人工智能。并且因为它是非盈利的,所以全世界都能免费拥有我们开发出来的技术。

Elon Musk:众所周知,有段时间我一直对人工智能心存担忧。我找Sam、Reid(LinkedIn 创始人Hoffman Reid)、Peter Thiel(PayPal联合创始人)还有其他一些人谈了很多次,当时就在想:“有没有某种方式能够确保,或者是增加人工智能往有利的方向发展的可能性呢?”反复探讨之后我们得出结论,创办一个符合美国税法501c3条款的、非盈利的、没有义务追求利润最大化的公司,应该是个不错的办法。当然,我们也会非常注意安全问题。

然后就有了一个重要的哲学性问题:我们希望人工智能普及开来。有两个意见:你想要多数人拥有人工智能呢?还是希望少数人拥有人工智能?我们认为可能多数人拥有比较好。我们可以把人工智能和人类个体意志的延伸联系在一起。

人类意志?

Musk:因为人工智能是人类自己意志的延伸,所以每个人本质上是与人工智能共生的,不能把人工智能当做独立的中央智库。想一想我们是怎样使用网络的?通过手机应用,我们可以收发邮件,玩转社交媒体,网络让我们有了三头六臂,而我们并不会这种能力当成身外之物,而是把它当成自己的一种延伸。我们可以把人工智能往这个方向引导,这就是我们想要做的。我们现在已经召集了一批这一领域内志同道合的工程师和研究员,他们也有同感。

Altman:我们认为人工智能发展的最好方式是提升个人赋权,造福整个人类,把研究成果免费提供给所有人,人工智能技术如果集中于少数人手中,会致使单个实体的权力百万倍于人类个体,这正是我们想要避免的。此外,因为我们是非盈利公司,不需要费心思盈利取悦股东,会把重心放在对人类未来而言最好的东西上。

谷歌会像之前分享机器学习一样,分享人工智能研究进展吗?

Altman:他们当然会分享了。随着时间的推移,我们会接近更多超越人类智能的东西,问题在于谷歌会分享多少。

OpenAI会开发出超越人工智能的东西吗?

Altman:希望如此。但它会是开源的,不仅仅是谷歌,每个人都能拿来用。当然了,如果你拿去用了,做出什么成果了,也不是必须拿出来共享的。但是我们开发出来的任何东西都会公之于众。

如果作为使用者的我是“邪恶博士”那种坏家伙,怎么办?

Musk:这个问题很好,我们也为此讨论了很久。

Altman:关于这点我们有一些不同的想法。电影里,就有许许多多的人在和邪恶博士战斗。我们相信大部分人都是好人,虽然任何群体当中都会有邪恶博士这种坏家伙存在,但还是会有许多许多的人工智能努力去阻止少数的害群之马。如果不开源,一个人工智能的力量10亿倍于任何其他人工智能,那么万一有一天这个人工智能反戈相向,或是一个邪恶博士掌控了这个人工智能,人类将没有反抗的能力,成为待宰羔羊,那才是真正糟糕。

你们会对OpenAI的进展进行监督吗?

Altman:这是当然,但需要时间。现在只有我和Elon两个人做监督工作。不过我们距离开发出真正的人工智能还有很长很长一段路要走,我认为我们有足够的时间来建立起一个监督机制。

本站文章信息来源于网络以及网友投稿,本站只负责对文章进行整理、排版、编辑,是出于传递更多信息之目的,并不意味着赞同其观点或证实其内容的真实性。如果您有什么意见或建议,请联系QQ28-1688-302!

人工智能实验室
相关文章相关文章
  • 担忧机器人威胁论?DeepMind教机器人

    担忧机器人威胁论?DeepMind教机器人

  • 华为iLab发布社交VR网络承载研究成果

    华为iLab发布社交VR网络承载研究成果

  • Android Wear又难产!然后,开发者不干了

    Android Wear又难产!然后,开发者不干了

  • 疑京东用户12G数据泄露 京东:源于3年前安全漏洞

    疑京东用户12G数据泄露 京东:源于3年前安全漏洞

网友点评网友点评
阅读推荐阅读推荐

科技讯11月28日消息,据英国《独立报》网站报道,如今世界对科技和创新如此关注,是因为人们渴望找到能够解决当前经济、社会和政治问题的解...

上周,科大讯飞、搜狗、百度先后召开发布会,对外公布语音识别准确率均达到「97%」。 而一如阑夕所言「一旦语音识别的准确率达到99%,那将...

想象AI的未来是很有趣的:家庭服务机器人、亚马逊的智能家庭中枢(Echo)等设备将走进每家每户,还有无人机快递和更加精准的医学诊断。这些...

中国AI产业大会12月16日举行:这里有你要的未来,人工智能 中国人工智能学会 机器人 院士 智能机器人 深度学习 AI 报名 ...