展会信息港展会大全

担心 AI 毁灭人类的科学家离开 OpenAI
来源:互联网   发布日期:2024-05-16 09:05:40   浏览:3162次  

导读:OpenAI 联合创始人、首席科学家伊尔亚苏茨克维(Ilya Sutskever)在社交媒体宣布,已经离开工作十多年的公司。他的继任者是 OpenAI 原研发总监雅库布帕乔基(Jakub Pachocki)。后者本科毕业于波兰华沙大学,博士毕业于卡耐基梅隆大学,在哈佛大学做过一年博...

担心 AI 毁灭人类的科学家离开 OpenAI

OpenAI 联合创始人、首席科学家伊尔亚苏茨克维(Ilya Sutskever)在社交媒体宣布,已经离开工作十多年的公司。他的继任者是 OpenAI 原研发总监雅库布帕乔基(Jakub Pachocki)。后者本科毕业于波兰华沙大学,博士毕业于卡耐基梅隆大学,在哈佛大学做过一年博士后。2017 年离开学术界,开始在 OpenAI 工作,也是开发 GPT-4 的关键人物之一

OpenAI CEO 萨姆阿尔特曼发文回应,“伊尔亚要与 OpenAI 分道扬镳了,这让我很难过;伊尔亚无疑是我们这一代最具才智的人物之一,是我们这个领域的指路明灯,也是一位亲爱的朋友。他的才华和远见是众所周知的;他的热情和同情心不那么为人所知,但同样重要。没有他,OpenAl 就不会有今天。”

OpenAI 总裁布洛克曼也发文感谢苏茨克维的付出,称其为一位艺术家:“尽管人们怀疑 AGI 是否在可预见的未来出现,但我们会仔细思考并采取行动,坚信深度学习可以带我们到达那里。”

2015 年,当阿尔特曼与马斯克决定创办一个非营利性的 AI 研究实验室时,马斯克为了把苏茨克维从 Google 挖走,不惜与 DeepMind 的 CEO 哈萨比斯决裂。苏茨克维加入 OpenAI 后,凭借其在软件系统开发方面的专业背景,领导了对 GPT 的研发。

去年 11 月,苏茨克维主导了罢免 CEO 阿尔特曼的 “政变”,但很快反悔,迎回阿尔特曼,之后便再也没有公开发声。外界普遍认为二者的分歧可能源于 OpenAI 商业化带来的安全风险。

苏茨克维是一个纯粹的技术理想主义者,认为 AI 必须永远可控,且以人类的价值观和道德规范行事,尤其是当他认识到 AI 的自主性正在迅速提升,并可能在未来超越人类。如果这样的超级智能缺乏对人类无条件的认同和爱,就可能取代甚至毁灭人类。

阿尔特曼的态度和行为则更加接近 “有效加速主义”,即相信面临颠覆式的技术创新时,最好的办法是尽快地推向市场,哪怕技术本身还不完美,实际应用和真实反馈也比无止境地研究更有价值。硅谷知名投资人马克安德森(Marc Andreessen)和 YC 现任 CEO 陈嘉兴(Garry Tan)都旗帜鲜明地信奉这种价值观。

去年 7 月,在 ChatGPT 刚刚完成一次有明显商业化意图的大更新后,苏茨克维和另一位 OpenAI 科学家简莱克(Jan Leike)在 OpenAI 内部成立了 “超级对齐” 团队,要用 OpenAI 至少 20% 的算力资源,来让人工智能系统与人类的价值观保持一致。这次苏茨克维宣布离职几个小时后,莱克也紧接着辞职。上个月,“超级对齐” 团队两位核心研究员还曾被 OpenAI 开除。

苏茨克维是以色列裔加拿大人,师从 2018 年图灵奖得主杰弗里辛顿(Geoffrey Hinton)。在他的学术历程中,2012 年开发的深度卷积神经网络 AlexNet 是重要一环,它在当年的 ImageNet 挑战赛中夺冠,且精确度是第二名的两倍。AlexNet 的成功为深度学习领域的发展奠定基础,也在一定程度上影响当前 AI 领域对 GPU 的重视。

此外,他在时序预测回归模型 Seq2Seq、主流机器学习框架 TensorFlow 等自然语言处理、计算机视觉等领域都有重要的科研成果。ICLR 2024 会议为了寻找具有长期影响力的论文,审查了十年前的学术研究,苏茨克维在 2014 年的一篇论文获得时间检验奖亚军。

苏茨克维称他已有下一步计划,但并未透露更多细节。(邱豪 曾兴)

赞助本站

人工智能实验室
相关内容
AiLab云推荐
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港