人工智能最不可控的风险,首先就发生在了创造它的人身上。
撰文|蓝洞商业 赵卫卫
图源|OpenAI
微软CEO萨提亚·纳德拉试图为OpenAI宫斗大戏画上了句号,但OpenAI的700多位员工并不答应。
11月20日下午(北京时间),萨提亚·纳德拉在社交媒体上官宣:Sam Altman(山姆·阿尔特曼)和Greg Brockman(格雷格·布罗克曼,OpenAI董事会主席)及其同事将加入微软,领导一个新的高级AI研究团队。「我们期待迅速采取行动,为他们提供成功所需的资源。」
同时他还提到:微软仍然致力于OpenAI的合作伙伴关系,「并对我们的产品路线图、我们在Microsoft Ignite上宣布的一切继续创新的能力以及继续为我们的客户和合作伙伴提供支持的能力充满信心。我们期待了解Emmett Shear和 OAI的新领导团队并与他们合作。」
阿尔特曼准备入职大厂微软,但OpenAI员工们的「逼宫」大戏还在上演。
OpenAI现存770名员工里有743人都签署联名信说,如果现任董事会不辞职并恢复前首席执行官阿尔特曼和前总裁布罗克曼的职务,他们将离开公司。信件的签名者包括该公司首席科学家Ilya Sutskever,他也是投票罢免阿尔特曼的四人董事会成员之一。
至此,三天换了三位CEO,举世哗然一波三折的OpenAI宫斗大戏仍旧没有结束。
上周五,OpenAI董事会发出公告,宣布解雇CEO山姆·阿尔特曼,理由是「他与董事会沟通时不能始终坦诚,妨碍了董事会履行职责。」米拉·穆拉蒂(Mira Murati) 被任命为临时CEO;
24小时后,反转开始,OpenAI董事会和阿尔特曼讨论,请他回来继续当CEO,公司员工、投资人和社交媒体支持声一片;
但很快谈判破裂,阿尔特曼不会回到OpenAI,亚马逊旗下游戏直播子公司Twitch首席执行官Emmett Shear成为OpenAI新CEO,但这位新任CEO并没有获得大多数员工的支持。
阿尔特曼仍然试图维系OpenAI的未来发展,11月21日,他在员工的一片支持声中表态:「纳德拉和我的首要任务仍然是确保OpenAI继续蓬勃发展,我们致力于为我们的合作伙伴和客户提供全面的运营连续性,OpenAI与微软的合作伙伴关系使这变得非常可行。」
千亿美金市值,大模型产品的开创者,OpenAI的一举一动都吸引着全球科技公司巨头们的注意,尤其是阿尔特曼被解雇引发的震动,其仍旧拷问着大模型产品以及背后的AI大公司们:人工智能和人本身的风险,哪个是AI历史进程中更不可控的因素?
微软赢了?重返OpenAI的谈判失败之后,阿尔特曼做出了加入微软的决定,与之一同加入的还有OpenAI总裁布罗克曼。
根据外媒披露的消息,阿尔特曼和布罗克曼将直接向微软首席技术官凯文·斯科特汇报。也就是说,拥有OpenAI 49%股份但没有控制权的微软,将通过新的组织结构吸纳OpenAI的员工。
外界对此一片看好,微软股价创下历史新高,因为微软最终可能完全拥有ChatGPT背后的人才和技术。尤其是在微软官宣这一消息之后,OpenAI的700多名员工联名致信董事会,他们将辞职追随阿尔特曼加入微软子公司,除非现任董事会辞职,并恢复阿尔特曼的职务。
微软显然是OpenAI此次变局中最大的变量,如果OpenAI大多数员工都加入微软,那么意味着,OpenAI作为一个研究机构而非商业组织的历史使命终结了,这个乌托邦式的组织将被瓦解,人工智能将彻底沦为大厂的游戏。
微软是OpenAI背后的坚定支持力量,从2019年开始,阿尔特曼就说服微软向OpenAI注入10亿美金的投资,此后OpenAI开启了商业化之路,ChatGPT发布震惊世界之后,微软更是乘胜追击继续加码,官宣累计要向OpenAI投资130亿美元,一直为OpenAI提供背后强大的算力支持。
阿尔特曼与微软关系密切,但微软一直没有在OpenAI董事会的投票权,只有收益分成。
根据外媒披露,微软注资后,OpenAI利润的75%分配给微软,直到微软收回其130亿美元的投资;OpenAI利润达到920亿美元后,微软的持股比例下降到49%,剩余部分利润由其他风险投资者和OpenAI的员工分享;当利润达到1500亿美元之后,微软和其他风险投资者的股权将无偿转让给OpenAI的非营利基金。
微软无意改变OpenAI的公司结构,这也为这次OpenAI大地震埋下了伏笔。戏剧的一点是,微软也是在阿尔特曼被开除前十分钟才得知此事。
在「解雇事件」发生之前,OpenAI的发布会上,微软CEO纳德拉曾亲自现身,与阿尔特曼一同宣布延长合作伙伴关系,OpenAI公布了能力更强且更便宜的GPT-4 Turbo版本,并发布了针对大企业的商业化定制模型,也开启了标志性意义的应用商店。
目前,看似是微软得到了阿尔特曼及其大部分团队的人心,人才得以收归微软所有,半个OpenAI收入微软囊中,但作为OpenAI背后最大的巨头,微软显然不希望OpenAI走向覆灭,而现在的状态只能说是一个过渡方案,是以时间换空间的妥协策略,注定不是最终解,也并非最优解。
即便没有了阿尔特曼,未来微软会一直支持OpenAI,微软在声明中表示,「之前存在的协议一直有效」。而纵观微软的布局,其一直避免干预OpenAI的管理,保持股份在50%以下,就是为了避免可能会遭遇到的反垄断审查,这是微软的聪明之处,也是OpenAI走向管理混乱的原因之一。
OpenAI未来会变成什么?
「微软将推动OpenAI进行治理变革。」纳德拉对外媒表示,但他没有透露更多的细节。所以,当下说「微软赢了」还为时尚早,只要OpenAI的治理结构未得到改善,其管理混乱的问题还会再次出现,这显然也是微软不愿看到的。
缘何出局?创始人被董事会驱逐,是商业社会中不断上演的古老故事。
上一个被OpenAI驱逐的关键人物,是2019年的OpenAI董事会成员马斯克,马斯克和投资大佬里德·霍夫曼都是OpenAI的组局者之一。
当时的理由很明确,就是因为马斯克挖走了OpenAI的知名研究员去特斯拉做AI总监,而且马斯克官宣投资10亿美金,迟迟未能落实,加之OpenAI当时投入产出消耗的资金与日俱增,最终导致马斯克因「利益冲突」而离开OpenAI董事会。
而如今,阿尔特曼被解雇,董事会却没有非常明确的理由。只是在声明中说,「阿尔特曼与董事会的沟通中没有保持坦诚,阻碍了董事会履行其职责的能力。董事会不再对他继续领导OpenAI持有信心。」
「缺乏坦诚」是OpenAI给出的官方理由,但实在是难以服众,也缺乏具体细节支撑。根据外媒披露,阿尔特曼是被由OpenAI首席科学家Ilya Sutskever带领的董事们解除了CEO和董事的职务,这一矛盾被归结为学术背景的科研人员与阿尔特曼之间有巨大的分歧。
OpenAI董事会一直没有明确说明辞退阿尔特曼的细节,但外界已经将矛盾归位为两点:一个是人工智能的安全性问题;一个是商业化扩张太快,这导致了人工智能可能消除就业机会,也可能会对人类构成威胁。
但这些论调依然无法彻底解释,为什么非要以阿尔特曼被辞职为代价?
阿尔特曼与董事会成员Ilya Sutskever
事到如今,连阿尔特曼的对立面也开始后悔。
Ilya Sutskever倒向了阿尔特曼一边,他在OpenAI员工集体请辞的压力下表示:「我对自己参与董事会的行动深感遗憾。我从来没有想过要伤害OpenAI。我热爱我们共同建立的一切,我将尽一切努力让公司重新团结起来。」
但他也没有解释,为什么用如此激烈的方式对抗阿尔特曼,以至于连马斯克也在Ilya Sutskever发言下表示:「你为何采取如此激烈的行动?如果OpenAI正在做一些对人类有潜在危险的事情,世界需要知道。」
宫斗从没有真相,即便OpenAI重新团结起来,但OpenAI脆弱的管理结构还是需要改变。
阿尔特曼被解雇后,首次回归的谈判诉求,就是要一个新的董事会和治理结构,但这一诉求没有得到满足。谈判最终破裂,导致目前阿尔特曼转投微软的怀抱。
OpenAI的本质是一家非营利性机构,而不是科技公司。其设立初衷具有乌托邦式的梦想,「构建造福全人类的AGI」,其目的就是要抵抗那些推动科技行业发展的价值观——对规模的不懈追求,先构建、后质疑的推出消费品的方法论(build fast,question later)。
这就导致了其与大多数商业化科技公司的管理方式迥然相异,科技公司的主导者往往拥有决定性的持股比例,即便持股比例被稀释,也大多会用同股不同权的方式牢牢掌控公司的管理结构。
但阿尔特曼没有OpenAI的股权,这削弱了他对董事会的影响力,即便微软持有49%的股份,也只有利润分成,没有投票权。这种乌托邦式的结构保证了OpenAI在过去以一种超越科技公司的方式发展,也带来了巨大的问题:董事会在未经最大投资者同意的情况下,可以罢免阿尔特曼。
大股东对一家公司的管理都没有决策和发言权,这在当下的科技公司中是几乎不可能发生的事情,这个问题注定是OpenAI未来要变革的,否则阿尔特曼被出局的类似问题还会再次上演。
未来何解?阿尔特曼拥抱微软,OpenAI大部分团队或将出走追随阿尔特曼,OpenAI作为大模型的开创者,未来何去何从?目前看,结局可能有三种情况。
第一种是,阿尔特曼与OpenAI中他的追随者,在微软开创新的事业。但即便微软支持阿尔特曼领导一个新的高级AI研究团队,但他也要向微软首席技术官凯文·斯科特汇报,从阿尔特曼的性格和创业方式上看,他很难接受成为「大厂打工人」的命运,很显然这不是结局的最优解。
第二种是,在微软的支持下,阿尔特曼重返OpenAI,获得员工和投资人的皆大欢喜。但正如阿尔特曼第一次谈判破裂那样,重返OpenAI,阿尔特曼必然会带来组织结构和管理上的变革,也不可避免会要求现任董事会成员辞职,以重新获得稳定的权力结构,进而彻底解决这一问题。这是最优解,也是最难的。
第三种则是更加混乱的,OpenAI现任董事会成员们正在推动OpenAI与前OpenAI成员创立的人工智能公司Anthropic合并,由Anthropic的联合创始人兼CEO Dario Amodei接任CEO,这无疑会进一步加剧OpenAI的动荡。OpenAI背后是投资方微软,而Anthropic背后则是亚马逊和谷歌,这显然是微软最不愿意看到的结局。
如何把OpenAI留在微软的身边妥协生存,考验微软这家巨头策略的最佳时期到了。
而OpenAI这次巨大的地震,暴露出的问题则更加值得深思。一方面是脆弱的非营利性机构的治理结构,另外一方面则是人工智能未来的隐忧。
根据外媒披露的信息,OpenAI的局限性,也就是商业化与风险控制的矛盾,早在ChatGPT发布时就埋下了种子。
从表面上看,ChatGPT是有史以来最成功的产品发布,增长速度比历史上任何其他消费者应用都要快,但这将OpenAI推向了截然相反的方向。ChatGPT加剧了创造产品以获取利润的竞争,同时也给公司的基础设施以及专注于评估和减轻技术风险的员工带来了前所未有的压力。
「OpenAI的安全团队劝产品团队减缓产品更新速度。ChatGPT发布后用户数快速增长,安全团队未能跟上应对安全隐患和恶意使用。随后,产品团队不顾安全团队提醒,坚持乘胜追击,接连推出了付费版ChatGPT和开放API接口。」
这就直接导致了推动商业化的阿尔特曼,与首席科学家Ilya Sutskever产生了越来越深的矛盾。
Ilya Sutskever越来越担心OpenAI是否坚持了管理非营利组织创造有益的AGI使命。阿尔特曼在11月初的OpenAI发布会上推出了可定制GPT功能,「Sutskever彻底怒了,带着忧虑去找董事会」,十天之后,阿尔特曼被辞退。
但时至今日,Ilya Sutskever也没有公开说明这一系列矛盾的具体细节到底是什么,个中缘由只能靠外界的推测,而未来三种结局中的任何一种,都会导致OpenAI元气大伤,让人工智能的发展之路更加审慎。
无论如何,OpenAI成立的早期目的就是能够预防人工智能的灾难性影响,推动人工智能发挥积极作用,但一系列动荡表明,这一初心可能在商业化的浪潮中会被大打折扣,OpenAI作为人工智能的开创者正处在风雨飘摇中,而人工智能最不可控的风险,首先就发生在了创造它的人身上。