YC专访:如何防止人工智能颠覆

  次阅读 作者:智能小宝 来源:互联网 2015-12-18 12:37 我要评论(0)

编者按:为了防止有朝一日人工智能的发展会颠覆人类,包括 Elon Musk、Reid Hoffman 等诸位美国创新型科技行业的风云人物共同出资超过 10 亿美元,于 12月12日 宣布成立一家非营利的独立研究机构——OpenAI。该组织想要实现人工智能最先进的形态,并将研究结果向公众公开。Medium 专栏作家 Steven Levy 为此采访了 OpenAI 的领导者,看他们如何描述这个计划和它的未来愿景。

本文转载自微信订阅号“新智元”,编译作者为王婉婷和王嘉浚特此感谢。您可关注“新智元”(Al_era)了解更多人工智能最前沿资讯。

为了追求人工智能最先进的形态并将研究结果向公众公开,他们资助了一个新成立的组织,OpenAI。

像是 AI 领域的竞争还不够激烈一样——要知道 Google、Facebook、Microsoft 之类的巨头,甚至还有 Toyota 这样的汽车公司,都在急匆匆地招募研究人员——现在又有了一个新的组织渴求研究者,但又有一些不同之处。

它是一个非营利性的合资组织,叫做 “OpenAI”。今天它被宣布成立,宣称将会向公众公开它所有的研究成果,并且授予它所有的专利买断式授权(royalty-free,译者注:用来宣告一项具有版权、专利或著作权的产品能(永久或特定时段)被使用而不需要支付权利金或执照费(License fee),来自维基百科)。这一切都是为了确保有朝一日计算机超越人类智力的可怕前景,将不会变得像一些人恐惧的反乌托邦(dystopia)那样让人绝望。OpenAI 的资金来自于一群科技行业的权威,包括 Elon Musk、Reid Hoffman、Peter Thiel、Jessica Livingston、以及 Amazon 云服务。他们承诺,将在未来很长一段时间内向这个组织投入总共超过 10 亿美元的资金。这个组织的联合董事长分别是 Elon Musk 和 Sam Altman(Y Combinator 的 CEO)。

众所周知,Musk 是 AI 的批判者,他加入这样一个组织并不让人意外。但 Y Combinator 是什么?没错,这就是那家 10年 前从一个夏季计划中脱胎而出的科技孵化器,当时以给 “拉面工资”、然后反馈美食建议的形式资助了 6 家初创企业,通过这种方式让它们能够快速扩张自己的业务。从那时起,YC 已经帮助创立了接近 1000 家公司,包括 Dropbox、Airbnb、以及 Stripe,并在最近设立了一个研究部门。过去的 2年 间,YC 一直由 Altman 领导着。他的公司 Loopt 曾经是 2005年YC 初创时孵化的公司之一,在 2012年 他以 4340 万美元的价格出售了这家公司。虽然 YC 和 Altman 都是 OpenAI 的创始人,并且 Altman 还担任了联合董事长的职务,但是 OpenAI 的确是一个与这些公司无关的、独立的合资组织。

本质上,OpenAI 是一个研究实验室,旨在削减两类组织的力量:包括因为拥有营利的超级智能系统(super-intelligence systems)而可能获得过多力量的大型组织,以及可能使用 AI 来获取力量甚至用来压迫本国公民的政府机构。这可能听上去非常唐吉坷德,但这个团队已经募集到了一批精英,包括 Stripe 前 CTO Greg Brockman(他将担任 OpenAI 的 CTO)以及世界一流的研究者 Ilya Sutskever。Ilya Sutskever 曾经为 Google 工作过,是在多伦多接受神经网络先驱 Geoff Hinton 指导的年轻科学家团队的一员。他将担任 OpenAI 的研究主管。其他的人马还有一群顶尖的天赋很高的年轻人,他们的简历中囊括了主要的学术团体、Facebook AI 以及 Google 在 2014年 收购的 AI 公司 DeepMind。OpenAI 还有一个星光熠熠的顾问委员会,顶尖的计算机科学家 Alan Kay 也名列其中。

OpenAI 的领导者们对我描述了这个计划和它的未来愿景。整个采访是分成两部分进行的,首先是与 Altman 的对话,然后是与 Altman、Musk、以及 Brockman 一起讨论的部分。我将整个访谈融合在一起,编辑成了简要清晰的格式。

这一切是怎么来的?

Sam Altman:我们大约是在一个半月以前启动 YC 研究部门的,但我一直以来都在思考 AI 的问题,Elon 也是。如果你想想对于世界的未来而言哪些东西最重要,我觉得一个善良的 AI(good AI)可能是这张列表上首当其冲的几项之一。所以我们创立了 OpenAI。这个组织正在尝试研发出一种对人类友好的 AI(human positive AI)。而且因为它是一个非营利性组织,全世界都能享用它的研究成果。

Elon Musk:就像你知道的那样,我对 AI 有所顾虑已经有一段时间了。我和 Sam,和 Reid [Hoffman],和 Peter Thiel,还有其他人,谈了许多次。我们在思考,“有没有某种方法可以确保——或者提升——AI 以有益的方式发展的概率?” 作为几次谈话的结果,我们得出了创立一个 501c3 组织的结论(译者注:501 (c) 是美国国内税收法(Internal Revenue Code, IRC)中的一项条款(美国国内税收法, § 501 (c)),列出了 26 种享受联邦所得税 (federal Income tax)减免的非营利组织,501 (c)(3) 为宗教、教育、慈善、科学、文学、公共安全测试 (Testing for public safety)、促进业余体育竞争和防止虐待儿童或动物等七个类型的组织,来自维基百科):一家非营利性组织,不具有让利润最大化的义务,可能会是一件不错的事情。同时,我们也会对安全性非常重视。

那么从哲学的角度上来说就有了一个重要的元素:我们希望 AI 能被广泛传播。有两种流派的思想——你是想要 AI 的数量很多,还是很少?我们认为可能数量多是一件好事。而且从你可以将它作为人类意愿的延伸这个方面来看,这也是一件好事。

人类意愿?

Musk:就像你自身有一个 AI 的延伸部分,每个人在本质上都与 AI 共生、而不是 AI 作为一个与你无关的大型中央智能(large central intelligence)。想象一下你将会怎么使用,比如说网络上的应用:你可以收发邮件、玩转社交媒体、你的手机上还有许多其它 app——它们让你变成了一个能做很多事的超人,而你并不会认为它们是与你无关的,你会觉得它们是你的延伸。所以我们想要尽力引导 AI 往这个方向发展。我们已经找到了一些和我们有相似理念的 AI 领域的工程师和研究者。

本站文章信息来源于网络以及网友投稿,本站只负责对文章进行整理、排版、编辑,是出于传递更多信息之目的,并不意味着赞同其观点或证实其内容的真实性。如果您有什么意见或建议,请联系QQ28-1688-302!

人工智能实验室
相关文章相关文章
  • Android Wear又难产!然后,开发者不干了

    Android Wear又难产!然后,开发者不干了

  • 华为iLab发布社交VR网络承载研究成果

    华为iLab发布社交VR网络承载研究成果

  • 担忧机器人威胁论?DeepMind教机器人

    担忧机器人威胁论?DeepMind教机器人

  • 疑京东用户12G数据泄露 京东:源于3年前安全漏洞

    疑京东用户12G数据泄露 京东:源于3年前安全漏洞

网友点评网友点评
阅读推荐阅读推荐

科技讯11月28日消息,据英国《独立报》网站报道,如今世界对科技和创新如此关注,是因为人们渴望找到能够解决当前经济、社会和政治问题的解...

上周,科大讯飞、搜狗、百度先后召开发布会,对外公布语音识别准确率均达到「97%」。 而一如阑夕所言「一旦语音识别的准确率达到99%,那将...

想象AI的未来是很有趣的:家庭服务机器人、亚马逊的智能家庭中枢(Echo)等设备将走进每家每户,还有无人机快递和更加精准的医学诊断。这些...

中国AI产业大会12月16日举行:这里有你要的未来,人工智能 中国人工智能学会 机器人 院士 智能机器人 深度学习 AI 报名 ...