
OpenAI十周年,山姆奥特曼写了一篇文章,在文章中写道,他们从最初只有十几人的小团队,历经十年坚持“一切以 AGI 造福全人类”为使命,最终推动 AI 技术进入全球发展的中心位置。早期在 Dota 强化学习、语言模型“情感神经元”以及 RLHF(人类偏好强化学习)等突破,奠定了大模型时代的根基。
ChatGPT 的出现成为世界认知 AI 的转折点,不仅让普通人首次能与强大的语言模型互动,也让企业、政府和行业意识到 AGI 的现实可能性。OpenAI 坚持的“迭代部署”策略——让技术提早进入真实世界、不断从用户反馈中学习——虽然曾被质疑,却成为事实证明最正确、也被全行业采纳的方式。
文章还罕见地对未来做出明确判断:OpenAI 当前的系统已在许多复杂智力任务上超过绝大多数专家级人类,而在未来十年,人类“几乎一定”将迎来超智能(Superintelligence)。尽管生活表面可能变化不大,但人类能够做到的事情将以指数级速度扩展,超出当下的理解范围。
最后,OpenAI 对用户和合作伙伴表达感谢,并表示虽然已经取得巨大进展,但通往安全、有益的 AGI 仍需长期努力。十周年只是新的起点,未来十年的变化将远比过去更加深刻。
以下是奥特曼原文:
回顾过去十年取得的突破、获得的经验教训,以及迈向造福全人类的通用人工智能(AGI)之路。
OpenAI取得的成就远超我的想象;我们当初的目标是做一些疯狂的、几乎不可能的、前所未有的事情。从充满不确定性的开端,克服重重困难,凭借持续不断的努力,我们现在看来很有可能实现我们的使命。
十年前的今天,我们向世界宣布了我们的计划,尽管我们当时并没有正式启动。

又过了几个星期,直到 2016 年 1 月初。
从某种意义上说,十年是一段很长的时间,但就社会变革通常所需的时间而言,十年其实并不算长。虽然日常生活与十年前并没有太大的不同,但我们今天所面临的可能性空间,与我们当年十五个书呆子围坐在一起,苦思冥想如何取得进步时所感受到的截然不同。
回看早期的照片,我首先注意到的是大家看起来都好年轻。但随后,我又注意到大家那种异乎寻常的乐观和快乐。那是一段疯狂而又充满乐趣的时光:尽管我们不被人理解,但我们却有着坚定的信念,觉得这件事意义非凡,即使成功的机会渺茫也值得全力以赴;我们拥有才华横溢的人,以及清晰的目标。
随着我们取得一些成功(以及许多失败),我们逐渐对现状有了更清晰的认识。那时,要确定具体应该做什么并不容易,但我们建立了一种鼓励探索的卓越文化。深度学习无疑是一项伟大的技术,但如果没有在现实世界中积累应用经验就贸然开发,似乎不太合适。我在此略过我们所做的一切(希望将来有人能写成一部历史著作),但我们始终秉持着一种积极进取的精神,不断探索眼前的下一个挑战:研究的下一步方向是什么?如何筹集资金购买更强大的计算机?等等。我们率先开展了使人工智能安全可靠且切实可行的技术工作,这种精神一直延续至今。
2017年,我们取得了一些奠基性的成果:Dota 1v1 的实验结果,将强化学习推向了新的规模;无监督情感神经元实验,证明语言模型能够清晰地学习语义,而不仅仅是语法;以及基于人类偏好的强化学习成果,展示了将人工智能与人类价值观相契合的初步途径。当时,创新远未结束,但我们深知,需要借助强大的计算能力来扩展这些成果。
我们坚持不懈,不断改进技术,并在三年前推出了 ChatGPT。世界为之瞩目,而 GPT-4 的发布更是引起了广泛关注;突然之间,通用人工智能(AGI)不再是天方夜谭。过去的三年极其紧张,压力巨大,责任重大;这项技术以前所未有的规模和速度融入了世界。这需要极其高超的执行力,我们必须迅速培养新的能力来应对。在如此短的时间内从零发展成为一家庞大的公司绝非易事,我们每周都要做出数百个决策。我为团队做出的众多正确决策感到自豪,而那些错误决策大多是我的责任。
我们不得不做出一些新的决策;例如,在思考如何让人工智能最大限度地造福世界时,我们制定了一项迭代部署策略,将早期版本的技术成功推向市场,让人们形成认知,社会与技术共同演进。这在当时颇具争议,但我认为这是我们做出的最明智的决策之一,如今已成为行业标准。
OpenAI 成立十年以来,我们拥有的 AI 能够在最艰难的智力竞赛中胜过我们大多数最聪明的人。更多AI科技内容,微信搜索橙市播客小程序
世界已经利用这项技术创造了非凡的成就,我们期待明年还能看到更多非凡的成果。迄今为止,世界在减轻潜在的负面影响方面也做得不错,我们需要继续努力,保持这种势头。
我从未像现在这样对我们的研发和产品路线图,以及实现我们使命的整体方向感到如此乐观。我相信,再过十年,我们几乎肯定能够打造出超级智能。我预感未来会有些奇特;在某种程度上,日常生活和我们最关心的事情几乎不会发生太大变化,而且我相信,我们会继续更加关注其他人所做的事情,而不是机器所做的事情。但在另一方面,2035年的人们将能够做到我们现在难以想象的事情。
我衷心感谢那些信任我们并使用我们的产品创造佳绩的个人和公司。如果没有他们的支持,我们或许还只是实验室里的一项技术;我们的用户和客户在很多情况下都对我们寄予了过高的期望,没有他们的支持,我们的工作不可能达到今天的成就。
我们的使命是确保通用人工智能(AGI)造福全人类。我们面前还有很多工作要做,但我为团队目前的发展方向感到非常自豪。我们已经看到人们利用这项技术所取得的巨大成果,而且我们知道,未来几年还将有更多成果涌现。
文章链接:https://openai.com/index/ten-years
更多AI科技内容,微信搜索 橙 市 播 客小程序
微信扫描下方的二维码阅读更多精彩内容

声明:本站所有文章,如无特殊说明或标注,均为橙市播客原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。
