AI时代的“宫斗剧”,剧情更新速度之快让人“目不暇接”,三次大反转到**终“皆大欢喜”的结局,仅仅历时100个小时。
要明白OpenAI此次“剧震”的核心原因,就不得不提到其在建立之初的哲学——有效利他主义(Effective Altruism)。
这一理念主张人们应该用**有效的方式使用所拥有的资源,以产生**大的社会积极影响。简单来说,就是用自己的时间、金钱、职能去尽可能去为全人类谋福祉。
有效利他主义的关键在于:是以改善**这一目的为导向,用理性思维去推导**有效的改善方式,对于方式方法的关注较少。
OpenAI成立之初就是一个真正的非营利组织,核心目的就是确保通用人工智能(AGI)安全引入,直到今天,官网上都明确了OpenAI的目标是“确保人工智能造福全人类”。
AI初创公司Cohere的CEO Aidan Gomez在11月22日给员工的一封信中谴责“有效利他主义”中的“自我正义”。Gomez认为,有效的利他主义旨在量化如何为人类做**大的贡献,但现在已经变得教条主义且盲目夸大影响。他写道:
“当人们开始真的相信他们是如此独特,甚至有资格造福并拯救全人类时,他们往往会为此采取极端行动。”
Gomez认为,有效利他主义的风靡很容易导致为了达成某种 “目的不择手段”的思想,进一步催生伤害、 欺诈和滥用等行为。
01 备受质疑的有效利他主义
“有效利他”主义一直以来都是一个颇为正面的概念,科技届有很多知名人士都是有效利他的拥护者,包括Facebook 联合创始人Dustin Moskovitz、**第二大独角兽Stripe的CEO Patrick Collison等等,他们曾为这个理念捐款数亿美元,包括马斯克所做的很多项目也都被认为带有明显的“有效利他”的色彩。
但在**近两年,“有效利他”却因为FTX交易所的创始人Sam Bankman-Fried(SBF)的倒台而备受质疑。
SBF的近年来**高调和****的拥护者之一,一直以“慈善家”“赚钱行善”的形象示人,始终积极参与有效利他主义运动,宣传“**快的方式赚钱旨来尽可能的帮助他人”。
就连在被调查前,SBF都曾反复强调,在未来10-20年内将自己的绝大部分财富都捐给有效利他事业,这一原则也一度风靡一时,吸引了很多年轻的追随者和“信仰者”。
但随着SBF的倒台,大家也开始质疑“有效利他”原则其实很片,SBF其实是在偷窃和牺牲一部分人的利益,来满足他所构想的社会性目标,就是割别人的韭菜再拿部分来做社会公益,同时自己也可以赚的盆满钵满。
02 有效利他主义下诞生的OpenAI
正如前文所述,OpenAI一直以来有一个崇高目标,几位创始人和捐赠者是带着理想主义创立了公司。
**初,OpenAI定位就是非营利组织,初识资金是由企业家们捐赠,包括Altman本人,也包括马斯克的1亿美元。但在“金主”马斯克离开后, Altman在2019年的一大任务就是找钱,这使得OpenAI需要尝试吸引商业参与者的投资,OpenAI转向了混合结构。
在母公司OpenAI Inc.下,成立了子公司OpenAI global,以寻求融资,这也使得虽然微软的投资换取了OpenAI global高达49%的股份,但是,它在OpenAI董事会没有席位。
一方面,董事会拥有任免CEO的权力,但包括Altman在内,董事会成员不持有母公司股份,OpenAI理论上不存在沦为内部人控制的公司的危险;另一方面,投资者是子公司(也是母公司的运营主体)的大股东,却在公司董事会没有席位,做到了与经营隔离,仅仅是战略投资者。
但当OpenAI首席科学家、联合创始人Ilya Sutskever联手3名外部董事将公司的董事会主席和CEO都驱逐出去的时候,大家都发现了这样看似理想化的公司架构背后的问题。
尽管这场内斗几经反转,Altman阵营获得了**后的胜利,OpenAI组成了新的三人董事会,Altman并未回归,表面从制度上看,未来董事会对他会有更大的制衡能力,可以继续发起对他的审查。
但问题在于,如果董事会主要成员和Altman保持一致行动呢?如果董事会任免CEO的权力遭到挑战甚至否定,OpenAI是否终将沦为内部人控制的公司?而大股东进入董事会作为制衡力量,是否可行?
汪波:EUV光刻机的局限与半导体产业的未来
【文/汪波】半导体产业面临的挑战日益严峻,我们该如何应对?如果把晶体管比作粮食,我们可以参考解决粮食危机的方法,来说明应对芯片挑战的三种思路。第一,最直接的就是继续提升主(629)人阅读时间:2023-12-01龙芯上新!我国自主研发的新一代通用处理器在京发布
CPU是计算机的核心组成部分,就像“大脑”一样指挥各个部件的运行。 今天(28日),新一代国产CPU——龙芯3A6000在北京发布。据介绍,龙芯3A6000采用我国自主设(461)人阅读时间:2023-12-01有望成为新型半导体材料!中国科学家合成全新碳分子
碳材料家族又添2位新成员:通过对两种分子实施“麻醉”和“手术”,同济大学材料科学与工程学院许维教授团队首次成功合成了分别由10个或14个碳原子组成的(454)人阅读时间:2023-12-01推动人工智能正向发展,跨领域与国际合作至关重要
编者按:2023年是微软亚洲研究院建院25周年。25年来,微软亚洲研究院探索并实践了一种独特且有效的企业研究院的创新模式,并以此为基础产出了诸多对微软公司和全球社会都具有积极(590)人阅读时间:2023-12-01汪波:EUV光刻机的局限与半导体产业的未来
【文/汪波】半导体产业面临的挑战日益严峻,我们该如何应对?如果把晶体管比作粮食,我们可以参考解决粮食危机的方法,来说明应对芯片挑战的三种思路。第一,最直接的就是继续提升主..2023-12-01龙芯上新!我国自主研发的新一代通用处理器在京发布
CPU是计算机的核心组成部分,就像“大脑”一样指挥各个部件的运行。 今天(28日),新一代国产CPU——龙芯3A6000在北京发布。据介绍,龙芯3A6000采用我国自主设..2023-12-01有望成为新型半导体材料!中国科学家合成全新碳分子
碳材料家族又添2位新成员:通过对两种分子实施“麻醉”和“手术”,同济大学材料科学与工程学院许维教授团队首次成功合成了分别由10个或14个碳原子组成的..2023-12-01推动人工智能正向发展,跨领域与国际合作至关重要
编者按:2023年是微软亚洲研究院建院25周年。25年来,微软亚洲研究院探索并实践了一种独特且有效的企业研究院的创新模式,并以此为基础产出了诸多对微软公司和全球社会都具有积极..2023-12-01