protectdream的个人博客分享 http://blog.sciencenet.cn/u/protectdream

博文

OpenAI宫斗剧梳理和底层逻辑分析

已有 580 次阅读 2023-11-21 03:03 |个人分类:技术类|系统分类:科研笔记

OpenAI,这家在2022年11月突然推出ChatGPT而震惊世界的公司,在一年之后又以闪电般的解雇CEO的方式再次引起轰动。 有人认为这是在模仿乔布斯的故事,其实不然,这是一位天才科学家的奋力一击。 OpenAI的真正灵魂人物并不是CEO Sam Altman,而是其创始人之一、首席科学家Ilya Sutskever。 让我们先看看表面上的事实,再深入探究背后的原因。 OpenAI的董事会由六人组成。 其中三人是公司的高层: Sam Altman,OpenAI前CEO,犹太裔,曾是Y Combinator孵化器的总裁。关于Sam Altman的更多故事,可以参考《不懂新冠的AI大佬不是亿万富翁》和《美国防部长指导新冠防疫,我们该如何纪念吴老师》。 Greg Brockman,OpenAI前董事会主席兼总裁,曾是美国支付平台Stripe的CTO,《不懂新冠的AI大佬不是亿万富翁》中提到的天才青年、Stripe的CEO Patrick Collison的得力助手。Sam Altman曾投资过Stripe。所以,Greg Brockman可以被视为Sam Altman的小弟,是一个工具人。 Ilya Sutskever,OpenAI创始人之一,首席科学家。 另外三名是外部独立董事: Adam D’Angelo,美国问答网站Quora的CEO,目前也在公司内部开发类似ChatGPT的大型模型Poe。 Tasha McCauley,一位女性创业者,曾是GeoSim的CEO,也是好莱坞明星约瑟夫·高登-莱维特的妻子。 Helen Toner,乔治城大学一个研究中心的主管。 首席科学家Ilya Sutskever先与三位独立董事沟通,说服了他们,得到了四票的支持。然后在Sam Altman和Greg Brockman两人不在场的情况下,召开了一次董事会,决定解雇Sam Altman。 接着,在11月16日周四晚上,Ilya Sutskever给Sam Altman发了一条短信,约他在周五中午谈谈。周五中午,双方通过Google在线视频会议连线,Ilya Sutskever一方四人都在。他们简单地通知了Sam董事会的决定,说他已经被解职了。然后结束了会议。 稍后,Ilya Sutskever又给Greg Brockman发了一条短信,要求和他打一个简短的电话。双方随即通过Google视频会议连线。Ilya Sutskever告诉Greg他已被免去董事长职务,同时Sam Altman也已被解雇。 整个过程非常迅速,没有一点拖泥带水。 随后,Ilya Sutskever在OpenAI召开全体员工会议,宣布了董事会的决定。CTO Mira Murati成为临时CEO。 在全体员工会议上,有人问:这是一场政变吗? Ilya Sutskever回答:你可以这么说。但这只是“董事会在尽自己的责任”。 但是,事情还没有结束。 不到24小时,OpenAI的最大几个投资人,包括投了100亿美元的微软、Thrive Capital、老虎基金(Tiger Global Management)、红杉资本,都对OpenAI施加了巨大的压力,要求让Sam Altman复职。 OpenAI董事会受到了巨大的压力。 这些投资人为什么想让Sam Altman复职?因为他们在OpenAI身上下了很大的赌注。 微软,真金白银投了100亿美元,希望借助OpenAI重新成为科技界的霸主。 Thrive Capital、老虎基金、红杉资本,不仅投资了OpenAI,期待其成为AI领域的万亿规模的霸主,从而自己能狂赚一笔,而且还投了一大堆在OpenAI的生态体系内的创业公司,就等着OpenAI的应用市场一开,就能吹出一堆AI小独角兽。 这就像苹果的应用商店一开门,手机app就变成了风口上的猪。最近六七年,美国大部分新兴的科技公司都是做手机app的。 所以,这些投资人们都疯狂了,迫不及待地呼喊着:暴富!暴富!暴富!暴富!暴富!暴富! 在OpenAI的生态体系下生存的创业公司们感到惊慌,因为一旦OpenAI的变革不符合他们业务的发展方向,这些公司就可能面临灭顶之灾。因此,一些人在社交媒体上情绪激动地批评和谩骂Ilya Sutskever,呼吁他尽快离开,将OpenAI交给Sam Altman。这样的行为被认为是在阻碍他人的发展,几乎如同谋害亲生父母一般。 那么为什么这些人相信Sam Altman能够实现他们的理念,而首席科学家Ilya Sutskever却不能呢? 要理解这一点,需要回溯到Ilya Sutskever的导师Geoffrey Hinton。Geoffrey Hinton教授是一位1947年出生于英国的学者。尽管他从小喜欢木工,但为了生计,他选择学习计算机。在1978年获得爱丁堡大学人工智能博士学位后,他前往美国继续在学术界工作。由于对里根时代的政治理念感到失望,他后来移居加拿大,并长期担任多伦多大学的计算机科学教授。 在人工智能领域,经过长时间的研究,他选择了神经网络的技术路径。然而,由于当时计算机计算能力和数据量的限制,神经网络的研究进展缓慢,一直未受到外界的重视。即便是那些追求排名和风口的博士生也对这个方向不屑一顾,不愿意投身于这一冷门领域。 Hinton教授本人在1993年已经彻底失望。研究进展缓慢,生活不如意,中年两次丧偶,独自抚养两个孩子。尽管他希望他的博士生们能够坚持神经网络的方向,但他自己已经对此失去信心,认为也许需要100年后才会有突破。 然而,历史的进程超出了他的预期。随着计算机计算能力的飞速提升和人类可获得的数据量的增长,神经网络的研究逐渐复苏。在这个时候,Hinton教授招收了两位博士生,Alex Krizhevsky和Ilya Sutskever,他们都选择了这个冷门的研究方向,展现出非凡的个性。他们在2012年共同开发了卷积神经网络(AlexNet),在ImageNet大赛中取得了巨大的突破,大大超越了其他人工智能技术路线的识别能力。 这个时候,Hinton教授与Alex Krizhevsky和Ilya Sutskever共同创立了DNN Research,一家只有三人的公司,没有业务、产品和收入。公司通过自由竞价的方式吸引了百度、Google、微软和英国人工智能公司DeepMind等几家公司的兴趣。在竞价过程中,余凯博士代表百度首先报价1200万美元,最终演变成了Google和微软之间的激烈对决,它们都渴望获胜,愿意不断提高报价。 然而,Hinton教授表示:“够了够了,你们太过激动了,我们只是三个人,你们居然愿意将出价推到4400万美元。” 当时,Hinton师徒认为Google更为道德一些,毕竟“不作恶”这一理念已经写入了公司章程。因此,他们决定接受Google的邀请。 然而,他们没想到谷歌与美国国防部的人工智能研究合作项目——Project Maven,在2018年曝光后引发了员工的抗议。员工们援引公司章程中的“不作恶”条款要求管理层解释这一决定。然而,谷歌管理层很快删除了公司章程中的“不作恶”这一条款。 在Hinton师徒得到钱后,他们计划将资金平均分配,每人得到1466万美元。然而,两位博士生坚持认为,Hinton老师应该获得40%,而他们各自只拿30%。最终,三人高兴地加入了Google,随后Google设立了一个新的部门——Google Brain谷歌大脑。 Google和微软看到对方在人工智能领域的大手笔投入后,也开始在这一领域展开竞争。 在竞拍结束后的一年多时间里,即2014年1月26日,Google以6.5亿美元收购了四家竞拍者之一的DeepMind。当时,DeepMind的员工人数为50人,计算下来,人均价格相当于Hinton师徒的88折。 随后,Google派遣了Google Brain即Hinton师徒三人去协助DeepMind。DeepMind很快取得了引人注目的成就。 2014年,他们开始开发人工智能围棋软件AlphaGo。2016年,AlphaGo击败了人类世界冠军李世石。 2019年,专用于玩星际争霸的AlphaStar以10:1的比分战胜了人类职业玩家,在团队协作人工智能领域取得了突破。 2018年,用于预测蛋白质折叠结构的AlphaFold取得了突破,解决了这一科学问题。这一突破对于使用基因测序仪器进行蛋白质测序和结构构建的科研人员带来了影响,有关科研人员的某女博士回国的原因成为了八卦话题。 DeepMind的管理层认为他们的技术过于强大,不应该被私人公司垄断,而应该属于全人类,对整个人类社会更有益。然而,在隶属于Google的这几年里,DeepMind对Google的表现并不满意,因此在这些年里,他们一直在寻求独立出Google。 Hinton师徒三人也有类似的想法。Hinton教授于2023年从Google退休,而博士生之一的Alex Krizhevsky则在2017年从Google退休,不再涉足人工智能。考虑到他加入Google前卖公司获得的1320万美元,他的生活已经足够。这也表明一般美国人一生挣得的钱不会超过100万美元。 Ilya Sutskever的职业变迁更早,发生在2015年。 1985年出生于俄罗斯的Ilya Sutskever在5岁时随家人移居以色列,成年后再次随家人搬到加拿大,最终成为Hinton教授门下的一员。由于这一经历,他可以被认定为犹太人。 Ilya Sutskever的生活方式非常简朴,与乔布斯、马斯克、扎克伯格等人相似。他总是一打相同的衣服轮流穿着,对食物饮料要求简单快捷,家里的家具越少越好,甚至只有一个床垫就足够他入眠。尽管他频繁受到各种应酬、晚宴、派对和舞会的邀请,但他基本上都选择不参加。 因此,在Hinton师徒三人中,唯一仍然保持活跃、有能力干活的就是Ilya Sutskever。 在硅谷,一群业界大佬看到谷歌垄断了人工智能领域的顶尖人才,便萌生了搅局的想法。他们认为让谷歌独享这一天才团队并不好,希望自己也能分享一杯羹。 于是,2015年,硅谷的这些大佬约请Ilya Sutskever共进晚餐。参与者包括风投之王Peter Thiel、特斯拉的马斯克、当时是Y Combinator总裁的Sam Altman、LinkedIn创始人Reid Hoffman,以及后来在政变中亮相的Stripe的CTO Grey Brockman。 在这次晚餐上,大家达成了共识。Ilya Sutskever决定离开谷歌,围绕他建立一个属于自己的人工智能实验室——OpenAI。他的使命是使人工智能普及,让硅谷所有人都能享用人工智能,避免谷歌垄断,造福全人类。因此,OpenAI被设立为一个非盈利组织。 为什么选择将OpenAI设为非盈利组织呢?这涉及到硅谷的一个著名悲剧。维基百科创始人Jimmy Wales在创立维基百科时对公司治理不够熟悉,认为属于全人类的百科全书应该属于有公信力的机构,于是将自己的公司设立为非盈利组织。然而,由于公司治理法规的限制,非盈利组织只能依赖捐款生存,融资困难,上市无望。因此,尽管维基百科迅速发展成为全球最大的百科全书网站,但其创始人和高管团队却依然贫困。Jimmy Wales屡次因此而懊悔,破坏了公司治理结构。由于这个反面案例的存在,硅谷的人都不愿采用非盈利机构的模式,因为这样做赚不到钱。 2015年,OpenAI刻意选择设立为非盈利组织,主要是为了让OpenAI专注于研发,为全人类提供服务,避免像谷歌那样垄断。Ilya Sutskever对这一使命深感认同,因此毅然决定投身其中。 接着,马斯克捐赠了1亿美元,其他人筹集了3000万美元,总共启动资金达到了1.3亿美元。马斯克与Sam Altman共同担任OpenAI的联席董事长。Ilya Sutskever成为唯一的实际执行者,开始招募团队。 因此,当时的情形是十个人围观,看着Ilya Sutskever一个人忙碌。当时别无选择,因为只有Ilya Sutskever一个人真正了解这项工作。 当时规定的是,Ilya Sutskever在OpenAI的薪酬为年薪190万美元,与他在谷歌时相当。在谷歌辞职时,谷歌极力挽留,愿意将他的薪酬提高到400万甚至500万美元,只要他愿意留下。然而,Ilya Sutskever拒绝了,因为他要去创建一个不受私营企业垄断的新平台。 因此,对于Ilya Sutskever来说,当初在2012年谷歌收购Hinton师徒的公司时,他认为自己已经得到足够的金钱。2015年离开谷歌,拒绝了500万美元年薪,选择加入一个未来不确定的非盈利初创平台,完全不是出于金钱驱动,而是出于更远大的目标。 随后,OpenAI的发展并不一帆风顺。Ilya Sutskever的头发掉得也很快。因为Hinton师徒选择的道路相对漫长,取得成果的速度相当缓慢。其他人在掌握了AlexNet架构后提出了许多改进路线,例如人类反馈强化学习(RLHF)。该方法强制人工智能首先记住5*4=20这样的问题,即使不理解也无妨,总之以后被问到时必须回答正确。其他人采用这种方法,短期效果非常好,迅速在各项评测中超越了Hinton师徒的技术。然而,Hinton师徒认为这相当于对人工智能的人为激素催肥,是不合理的。他们认为人工智能应该慢慢学习,自行理解,这样才能有真正的发展。 因此,从2015年成立到2019年,OpenAI的进展缓慢。而马斯克等大佬捐赠的13亿美元很快就用完了。面临困境,两位联席董事长产生了分歧。马斯克坚持要继续非盈利路线,而Sam Altman主张进行转型。他认为以目前的研发进度,将是一个无底洞,需要转向传统的私营公司模式,融资、盈利、上市,最终成为人工智能领域的霸主。 于是,两方分道扬镳,马斯克退出,Sam Altman成为唯一的董事长。然后,在OpenAI旗下设立了一个常规的私营子公司,由该子公司进行融资、盈利,然后OpenAI保持非盈利的公司治理结构。 2019年进行了转型后,OpenAI开始大规模融资。从2019年7月开始,微软注资10亿美元,随后Kholsa Ventures、LinkedIn创始人Reid Hoffman的个人基金、Matthew Brown Companies等多家风投公司纷纷跟进。之后的每一年都进行一次或两次融资。到了2023年初的第七轮融资,微软一挥巨资,注资100亿美元。这些年来,微软几乎购买了所有可以购买的OpenAI权利,包括2020年购买的GPT-3的基础技术许可授权、技术集成的优先授权,以及2021年购买的技术商业化授权,允许提供付费API和AI工具。 2023年,微软注资100亿美元,以获取将ChatGPT整合进Bing搜索引擎的授权。微软计划将OpenAI完全融入其体系,可能通过全盘收购、技术全部授权等方式,旨在确保对人工智能领域的绝对控制。 然而,马斯克对OpenAI的转向表达了不满。在最近几年里,他一直批评OpenAI变为盈利性机构。尽管当初投资了1亿美元支持非盈利机构OpenAI,但如今却变成了追求盈利的机构。马斯克对此不认同,但在董事会中,他的话语权不足,其他董事强硬推动转型。因此,马斯克在2023年成立了xAI,一家新的人工智能公司。 除了马斯克,Ilya Sutskever也对OpenAI的发展方向持异议。尽管他的反抗没有公开发表,但体现在OpenAI与微软的授权条款中。授权条款规定,OpenAI对微软的授权仅在实现AGI之前有效。一旦实现AGI,之前的所有授权和商业条款将失效。AGI是通用人工智能,指一个能力超越人类的高度自治系统。 此外,Ilya Sutskever试图通过这个授权条款握住外部股东的咽喉,一旦技术突破或对方有异动,立刻斩断其喉咙。这使得微软可能采取一系列动作来消除这个条款造成的不确定性,以确保成功吞并OpenAI。 在OpenAI董事会内部,存在对发展方向的争议。马斯克和Hinton老师与Ilya Sutskever的理念相符,但目前在事外,插不上手。当前,Ilya Sutskever在一人之力对抗微软、投资基金、小公司生态和Sam Altman等四大势力。 Ilya Sutskever的反对不仅表现在授权条款上,还体现在对AGI商业化进程的看法。他希望推迟AGI的商业化,认为AGI与人类的关系应该是父母与婴儿的关系。他成立了Superalignment超级对齐小部门,致力于制定故障安全程序以控制AGI技术。这引起了一些人的质疑,他们希望迅速实现财富自由。 因此,2023年10月,各方势力逼迫OpenAI董事会解散重组,使Sam Altman回归担任CEO。这将最大程度保障各方的利益,而Ilya Sutskever可能会面临被踢出董事会的风险。 对于Ilya Sutskever而言,这是一场科学家创始人的搏击之歌。他的坚持和决心将决定OpenAI的未来,以及人工智能领域的发展方向。



https://blog.sciencenet.cn/blog-2866696-1410445.html

上一篇:DeepSpeed4Science
下一篇:范蠡(即陶朱公)救子的故事
收藏 IP: 134.174.250.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-3-4 13:49

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部