2023年11月，ChatGPT的母公司OpenAI爆發(fā)了高層內(nèi)斗，堪稱人工智能世界的“911事件”，元老創(chuàng)始人山姆 ·奧特曼（Sam Altman）先被董事會(huì)罷免，又在全體員工和投資人支持下重返OpenAI擔(dān)任首席執(zhí)行官，隨后重新組建了Bret Taylor、Larry Summers和Adam D'Angelo在內(nèi)的新董事會(huì)。
作為炙手可熱的AI獨(dú)角獸的靈魂人物，奧特曼被罷免，堪比當(dāng)年喬布斯被Apple驅(qū)離，這場持續(xù)數(shù)日的OpenAI羅生門劇情一度成為科技圈的霸屏新聞，從而使得最近一波AI浪潮中，加速派與對齊派的技術(shù)路線分歧浮出冰面。
屠龍者變惡龍——OpenAI的特殊歷史與組織架構(gòu)
把時(shí)間輪盤撥回本輪神經(jīng)網(wǎng)絡(luò)AI變革浪潮的早期——2015年，AI巨頭的谷歌DeepMind，發(fā)布了AlphaGo模型，挫敗圍棋界各大頂尖高手，成為轟動(dòng)一時(shí)的新聞。
許多硅谷的科研人員與商業(yè)精英們預(yù)感了AI被大公司壟斷的可怕未來。硅谷頂級(jí)孵化器Y Combinator 公司的CEO奧特曼、支付公司Stripe前技術(shù)高管布羅克曼、原谷歌大腦項(xiàng)目科學(xué)家蘇茨克維、特斯拉CEO埃隆·馬斯克與其他九人共同創(chuàng)建了非營利性組織——OpenAI。這些創(chuàng)始人希望，AI技術(shù)能秉承開源、公益的理念，造福人類，而不是成為大公司壟斷的工具（OpenAI中的Open正有此意）。最開始的OpenAI依靠愿景、創(chuàng)始人魅力和并不豐厚的報(bào)酬從大公司挖掘開發(fā)者與AI科學(xué)家，組建AI研發(fā)實(shí)驗(yàn)室。所以，OpenAI的創(chuàng)始本體是一個(gè)NPO性質(zhì)的組織，而不是一家公司。
OpenAI公布的章程可以總結(jié)為：創(chuàng)造安全的AGI造福全人類，以公共利益、持久安全、技術(shù)領(lǐng)先、合作導(dǎo)向?yàn)樵瓌t。至今OpenAI官網(wǎng)上的最早一篇介紹OpenAI使命的博客這樣寫道：OpenAI 是一家非營利的人工智能研究公司。我們的目標(biāo)是以最大可能造福全人類的方式推進(jìn)數(shù)字智能，不受盈利需求的干擾。由于我們的獨(dú)立研究沒有盈利義務(wù)，因此我們可以更好地關(guān)注對人類的積極影響。作者是Greg Brockman與Ilya Sutskever。
馬斯克在早期捐獻(xiàn)了一億美元，后來因路線分歧退出。訓(xùn)練大語言模型（LLM）需要消耗巨量資本，算力成本呈指數(shù)級(jí)增長，同時(shí)頂尖的AI工程師的報(bào)酬也是不菲。OpenAI 第一年的花銷是 1123 萬美元，其中超過665萬是50多名員工的工資。OpenAI早期危機(jī)重重，奧特曼挺身而出，辭去Y Combinator的CEO，全職成為Open AI的CEO，探索融資模式。
2019年3月11日， OpenAI宣布在母公司OpenAI Inc的非營利主體下，創(chuàng)建一個(gè)限制性營利實(shí)體OpenAI, L.P。投資人和公司員工擁有OpenAI, L.P的股份但沒有投票權(quán)，投資者的分紅累計(jì)超過回報(bào)上限后，資金就會(huì)自動(dòng)流入OpenAI Inc非營利組織的賬戶中。
OpenAI設(shè)計(jì)了如同縫合怪的治理架構(gòu)：
董事會(huì)是OpenAI所有活動(dòng)的最高權(quán)力機(jī)構(gòu)，董事會(huì)要忠于OpenAI的愿景——安全、公益、開放的AGI。將持股權(quán)與決策權(quán)分離，只有未持有股權(quán)的董事?lián)碛袑娟P(guān)鍵決策的投票權(quán)。限制性營利實(shí)體OpenAI LP隸屬于非營利主體 OpenAI Inc，設(shè)立投資人與員工的盈利上限。當(dāng)開發(fā)出真正的通用人工智能（GAI），OpenAI Inc 非營利組全權(quán)擁有AGI的權(quán)限，而不包含在此前與微軟的商業(yè)條款中，對GAI的判定取決于獨(dú)立董事會(huì)。
OpenAI LP 的主要信托義務(wù)是推進(jìn)OpenAI 章程的目標(biāo)，公司由 OpenAI Nonprofit 董事會(huì)控制。所有投資者和員工都簽署協(xié)議，規(guī)定 OpenAI LP 對章程的義務(wù)始終是第一位的，即使以犧牲部分或全部財(cái)務(wù)權(quán)益為代價(jià)?！倍聲?huì)擁有對非營利主體OpenAI Inc與限制性營利實(shí)體OpenAI, L.P的控制權(quán)，董事會(huì)要為公益愿景負(fù)責(zé)，卻沒有與OpenAI的利益捆綁，因此，《福布斯》將其戲稱為“科技向善長老會(huì)”。
這種組織架構(gòu)的意圖是：維護(hù)公益愿景的初心，滿足對投資人與核心工程師的股權(quán)激勵(lì)，同時(shí)也最小限度的控制了引入資本后對NPO主體的影響，但也為之后的沖突埋下定時(shí)炸彈。
截至發(fā)文時(shí)OpenAI的組織架構(gòu)。https://openai.com/
OpenAI改組后陸續(xù)吸納了投資，包括最重要的合作伙伴——微軟。
2019 年7月22日，微軟宣布與 OpenAI 達(dá)成合作伙伴關(guān)系，以10億美元投資成了 OpenAI 的大投資人 LP ，將與 OpenAI一起共建Azure AI超級(jí)計(jì)算技術(shù)。
OpenAI將其大模型移植到Microsoft Azure上運(yùn)行，免費(fèi)使用微軟的云服務(wù)來訓(xùn)練和運(yùn)行 AI 模型。微軟獲得了 Open AI 技術(shù)的獨(dú)家權(quán)，可在 Bing 搜索等產(chǎn)品上使用 Open AI 的技術(shù)成果，微軟也成為OpenAI商業(yè)化AI技術(shù)的首選合作伙伴。
2020年后，OpenAI開啟了燒錢拼算力的大模型開掛路線，商業(yè)模式愈發(fā)成熟，其代碼也不再開源。
每一次GPT的升級(jí)，參數(shù)量都是指數(shù)型的上升。訓(xùn)練一次大模型就要幾百萬美元，每年的云計(jì)算成本也都要上億。2020年5月發(fā)布的 GPT-3有1750億的參數(shù)，基于GPT3 .5的 ChatGPT 在2022年底發(fā)布后引爆互聯(lián)網(wǎng)，到2023年3月推出的GPT-4綜合性能已經(jīng)傲視群雄。
在產(chǎn)品迭代與商業(yè)化勢如破竹之時(shí)，因公益愿景設(shè)立的董事會(huì)元老們，對奧特曼過于激進(jìn)的AI商業(yè)化路線愈發(fā)不滿，終于爆發(fā)沖突。在奧特曼被開除事件發(fā)生時(shí)，董事會(huì)是6位成員，不符合奇數(shù)投票原則，奧特曼完全沒想到當(dāng)自己帶領(lǐng)OpenAI高歌猛進(jìn)的時(shí)候，居然會(huì)后院起火。很多人發(fā)出感嘆，對人類如此重要的科技獨(dú)角獸，居然發(fā)生這樣草臺(tái)班子的鬧劇。
OpenAI所設(shè)計(jì)的組織架構(gòu)，是把資本機(jī)制引入到一個(gè)愿景驅(qū)動(dòng)的非盈利組織的模型之中，股權(quán)與投票權(quán)分離，讓董事基于使命價(jià)值觀而非投資回報(bào)進(jìn)行決策，導(dǎo)致了作為靈魂人物的奧特曼被開除成為可能。公益理想與商業(yè)可持續(xù)是一座艱難的天平。在獲得微軟的算力-資本加持后，Chat GPT橫空出世，之后的Open AI的發(fā)展路徑，更像是一個(gè)快速崛起的資本獨(dú)角獸而不再是愿景為AI普惠世人的NPO。
2月22日，Google發(fā)布了開源大模型Gemma-7B，性能超過此前Mate開源的大模型Llama-2 13B，成為最強(qiáng)開源大模型。對于一家AI企業(yè)，開源的大模型肯定不是手里性能最好的大模型，開源大模型一般會(huì)被其他創(chuàng)業(yè)公司拿來套殼，獨(dú)立開發(fā)者的日常使用肯定首選性能領(lǐng)先的大模型調(diào)用API，但更深度的開放意味著未來行業(yè)標(biāo)準(zhǔn)的話語權(quán)與生態(tài)影響力。
反諷的是，截至本文發(fā)布，作為OpenAI曾經(jīng)意圖顛覆的科技巨頭都已紛紛推出自己的開源大模型，OpenAI卻未曾開源任何大模型。
OpenAI成了最不open的AI。
AI技術(shù)政治——危機(jī)派、加速派與對齊派
關(guān)于本輪神經(jīng)網(wǎng)絡(luò)AI革新浪潮的林林總總的觀點(diǎn)，可以大致劃為三派：危機(jī)派、加速派與對齊派。
危機(jī)派
是指對目前的AI技術(shù)嚴(yán)重警惕，并懷疑其對人類社會(huì)可能產(chǎn)生極大威脅，主張暫停AI技術(shù)繼續(xù)研發(fā)的派系。AI危機(jī)派的很多論斷，建立在對當(dāng)前AI技術(shù)不準(zhǔn)確的認(rèn)知上，甚至過于夸大AI的發(fā)展速率，一般有工程師背景或者科技從業(yè)者并不會(huì)支持過于夸張的AI威脅論。2023年3月29日，著名企業(yè)家埃隆·馬斯克牽頭的“暫停AI聯(lián)署信”發(fā)布，這封公開聯(lián)署信得到一千多名業(yè)界、學(xué)界人士響應(yīng)，簽名者介于危機(jī)派與對齊派之間。公開聯(lián)署信呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)，暫停至少6個(gè)月；如果這樣的暫停不能迅速實(shí)施，政府就應(yīng)該介入并實(shí)施暫停。公開信稱，AI的研發(fā)應(yīng)該重新聚焦于使當(dāng)今最強(qiáng)大、最先進(jìn)的系統(tǒng)更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致、值得信賴和忠誠。在開發(fā)強(qiáng)大的AI系統(tǒng)之前，要確信這些系統(tǒng)的影響是積極的，風(fēng)險(xiǎn)是可控的。公開信還引用OpenAI近期的聲明稱，在開始訓(xùn)練未來的系統(tǒng)之前的某個(gè)時(shí)點(diǎn)，獲得獨(dú)立的審查可能很重要，而對于正在研究最先進(jìn)模型的開發(fā)者，應(yīng)達(dá)成共識(shí)來限制新模型的算力增長速度。（https://science.caixin.com/2023-03-29/102013411.html）
加速派
是指受 E/acc（有效加速主義）思潮影響的人物派系，該思潮認(rèn)為人類應(yīng)該無限制地推進(jìn)AI等前沿技術(shù)的加速研發(fā)，最終促進(jìn)人類進(jìn)化。E/acc這個(gè)詞組最開始的發(fā)明，純粹是為了“玩?！保菍τ行Ю髁xEffective Altruism（簡稱E/A）造詞的戲謔，最早出現(xiàn)在兩名硅谷程序員在X space 上的閑聊中。后來知名風(fēng)投基金A16Z 的創(chuàng)始人 Marc Andreessen 和 YC 孵化器的 CEO Garry Tan 把自己X賬號(hào)簡介加上了“E/acc”，大佬站臺(tái)后，很多人跟風(fēng)改E/acc后綴。雖然出現(xiàn)了E/acc的論壇網(wǎng)站，E/acc仍然是一個(gè)混沌的思潮，每個(gè)自稱E/acc的人并沒有對此統(tǒng)一的定義。
根據(jù)E/Acc論壇，主要觀點(diǎn)可以歸納為：
加速主義是指技術(shù)與資本之間耦合的正反饋螺旋加速狀態(tài)。
類比熱力學(xué)墑增定律，宇宙的復(fù)雜程度不可逆的增長，人類社會(huì)的技術(shù)智能程度也應(yīng)該加速發(fā)展。
AI技術(shù)發(fā)展是不可阻擋的，反對AI都是因?yàn)椴涣私饧夹g(shù)，才杞人憂天。人工智能有一定風(fēng)險(xiǎn)，應(yīng)該讓更多人加入這個(gè)技術(shù)浪潮，要開源、要加速才能促進(jìn)技術(shù)良性發(fā)展，而不是限制、延緩AI技術(shù)。
人類社會(huì)的公共部門（政府、NGO、科學(xué)家協(xié)會(huì)）無法管理AI，應(yīng)該充分放手讓AI 加速，AI系統(tǒng)會(huì)自我進(jìn)化到相互制衡的狀態(tài)。
當(dāng)前存在的社會(huì)問題可以無視，任由技術(shù)突進(jìn)可能會(huì)加劇社會(huì)矛盾的情況發(fā)生，但技術(shù)突進(jìn)到一定程度舊的社會(huì)問題會(huì)迎刃而解
OpenAI的CEO奧特曼與風(fēng)投基金a16z的聯(lián)合創(chuàng)始人馬克·安德森（Marc Andreessen）都被認(rèn)為是加速派的代表。安德森曾在 a16z 官網(wǎng)發(fā)布《技術(shù)樂觀主義者宣言》（The Techno-Optimist Manifest），主要觀點(diǎn)依舊為哈耶克濫觴，認(rèn)為技術(shù)創(chuàng)新是永恒的經(jīng)濟(jì)增長動(dòng)力，自由市場是組織技術(shù)經(jīng)濟(jì)的最有效的方式，推動(dòng)技術(shù)進(jìn)步使“我們”成為科技超人。這篇“技術(shù)中心論”的宣言如此粗制濫造，認(rèn)為社會(huì)變革是技術(shù)進(jìn)步的副產(chǎn)品，技術(shù)發(fā)明脫離了社會(huì)與政策環(huán)境，將資本主義的新技術(shù)應(yīng)用等同于社會(huì)進(jìn)步，將投資人等同于科技創(chuàng)造的代言人。科技行業(yè)的風(fēng)險(xiǎn)投資人當(dāng)然非常樂觀，因?yàn)樗麄兪羌夹g(shù)躍進(jìn)的最大受益者，超額利潤的第一輪收割者，并且認(rèn)為維持當(dāng)前技術(shù)-資本主義的發(fā)展模式，自己就會(huì)成為第一批超人。當(dāng)a16z的風(fēng)險(xiǎn)投資家舉起《技術(shù)樂觀主義宣言》大旗的時(shí)候，就像是美國號(hào)稱自己發(fā)明了民主與平權(quán)一樣虛偽。
E/ACC是被發(fā)明出來的，用以對辯關(guān)于AI技術(shù)杞人憂天的言論，E/ACC糅合了老加速主義的只言片語以及工程師達(dá)爾文主義認(rèn)識(shí)論。其詭辯是“工業(yè)黨”（唯發(fā)展論）套路，所謂“技術(shù)超速發(fā)展中產(chǎn)生的社會(huì)問題可以通過超速發(fā)展技術(shù)來解決”，這是一種將技術(shù)中心論推演到極致并透支社會(huì)的技術(shù)發(fā)展策略。E/Acc的起始論點(diǎn)挪用了熱力學(xué)定律，設(shè)置了一種幻象，類似“禁止干預(yù)”的天命?！凹夹g(shù)神圣并抽離于社會(huì)，可以在外部決定社會(huì)進(jìn)程”可以總結(jié)為“技術(shù)中心論/技術(shù)決定論”，可以追溯到圣西門的技術(shù)專家治國論，伴隨著關(guān)于科技史教科書成為一種大眾認(rèn)知。這種技術(shù)拜物教實(shí)際上阻礙了人們對技術(shù)關(guān)系的認(rèn)知。
OpenAI官網(wǎng)關(guān)于超級(jí)對齊的介紹
對齊派
主張減緩?fù)ㄓ萌斯ぶ悄芗夹g(shù)的研發(fā)速度，提升對技術(shù)的公共效益、倫理討論、人文價(jià)值的重視，在AI研發(fā)過程中引入人文的價(jià)值判斷，確保AI技術(shù)不會(huì)失控，對人類社會(huì)的產(chǎn)生威脅。英國教授杰弗里·辛頓（Geoffrey Hinton）是卷積神經(jīng)網(wǎng)絡(luò)理論的領(lǐng)軍人物，也是本輪AI技術(shù)躍進(jìn)的奠基性科學(xué)家，被稱為“人工智能教父”，從Google離職后，持續(xù)呼吁謹(jǐn)慎對待AI技術(shù)，成為AI對齊派的代表。OpenAI首席科學(xué)家Ilya正是辛頓最得意的弟子，他在OpenAI內(nèi)部推動(dòng)一項(xiàng)名為“超級(jí)對齊計(jì)劃”的項(xiàng)目，來確保AI機(jī)器與人類的意圖和價(jià)值觀保持一致。讓AI理解人類的明確意圖以及隱含意圖，例如真實(shí)性、公平性和安全性。 此前，OpenAI的兩名獨(dú)立董事Helen Toner和Tasha McCauley都具有對齊派傾向。
當(dāng)代區(qū)塊鏈行業(yè)知名人物，以太坊創(chuàng)始人維塔利克·布特林（Vitalik Buterin）在博客文章“我的技術(shù)樂觀主義（My techno-optimism）”中提出了D/acc 的觀念，回應(yīng)安德森的《技術(shù)樂觀主義宣言》。 （原文鏈接https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html）
Vitalik具有開發(fā)者與記者的雙重背景，繼承了加密朋克的理念，倡導(dǎo)科技向善的公共價(jià)值。同時(shí)作為行業(yè)最大公鏈——以太坊的領(lǐng)導(dǎo)者，Vitalik在開發(fā)者與投資者中都具有一定話語權(quán)。
在這篇文章中，Vitalik試圖以D/Acc的愿景框架，兼容各路技術(shù)意識(shí)形態(tài)。如：E/Acc、有效利他主義（E/A）、自由主義者、多元主義、公共醫(yī)療、區(qū)塊鏈主義、太陽朋克（solarpunk）、月球朋克（lunarpunk）。D/Acc的“d”可以代表很多概念；尤其是防御（defense）、去中心化（decentralization）、民主（democracy）以及差異化（differential）。
Vitalik借用了人類學(xué)家詹姆斯·C·斯科特（James C Scott）的經(jīng)典著作《逃避統(tǒng)治的藝術(shù)》，斯科特提出Zomia（贊米亞）東南亞山地形成的對抗中心化權(quán)力的社會(huì)形態(tài)與生產(chǎn)方式，對應(yīng)諺語“山高皇帝遠(yuǎn)”。
Vitalik列舉了一系列區(qū)塊鏈技術(shù)，這些技術(shù)可以成為個(gè)體對抗數(shù)據(jù)監(jiān)控的方法。零知識(shí)證明可以用于隱私保護(hù)，允許用戶在不泄露私人信息的情況完成驗(yàn)證。這樣的技術(shù)可以讓我們保持隱私和匿名的好處——這些屬性被廣泛認(rèn)為是投票等應(yīng)用場景所必需的——同時(shí)仍能獲得安全保證，同時(shí)還可以打擊垃圾郵件和不良行為者，可以讓用戶和社區(qū)在不損害隱私的情況下驗(yàn)證可信度，并保護(hù)他們的安全，同時(shí)不依賴于把誰好誰壞的定義強(qiáng)加到自己身上的中心化瓶頸。
例如：
數(shù)字護(hù)照簽名封裝在 ZK-SNARK 里面，就可以證明你是特定國家/地區(qū)的唯一公民，而不需要透露你是哪里的公民。
在 Zuzalu 孵化的 Zupass 已被成百上千人使用，最近又被 Devconnect （可讓用戶持有門票、會(huì)員資格、（不可轉(zhuǎn)讓的）數(shù)字收藏品和其他證明。
pol.is 采用了跟Community Notes類似的算法（并且運(yùn)用要比Community Notes更早）來幫助社區(qū)識(shí)別子部落之間的共識(shí)點(diǎn)。
在文中，Vitalik也認(rèn)可“超級(jí)對齊”是一種務(wù)實(shí)的折衷主義，讓開發(fā)者更有意識(shí)地確保正在做的東西能夠幫助人類繁榮發(fā)展，同時(shí)并不中斷研發(fā)進(jìn)度?！巴ㄟ^在決策的每一個(gè)步驟都植入人類的反饋，我們減少了將高層級(jí)的規(guī)劃責(zé)任轉(zhuǎn)移給人工智能本身的動(dòng)機(jī)，從而減少了人工智能本身做出一些與人類價(jià)值觀完全不相符的事情的機(jī)會(huì)?！比绻覀兿胍粋€(gè)超級(jí)智能與“人類”共存的未來，一個(gè)人類不僅僅是寵物，而且實(shí)際上對這個(gè)世界仍保留著有意義的代理權(quán)的未來。
大眾文化中對于技術(shù)的態(tài)度，有兩種極端，一種是技術(shù)決定論的，一種是技術(shù)危機(jī)論的，認(rèn)為技術(shù)黑箱不可對話，采取一種對抗式態(tài)度。民粹主義的AI威脅論與AI加速論可以作為類比。對齊派來自AI工程師的技術(shù)自覺，現(xiàn)實(shí)中是一種更務(wù)實(shí)的塑造AI技術(shù)與社會(huì)的可行路徑。
而在技術(shù)政治視野中，技術(shù)被看作一種基于社會(huì)生成的文化創(chuàng)造，技術(shù)是由諸多社會(huì)力量與政治愿景參與建設(shè)的，人們在日常生活與集體行動(dòng)中可以主動(dòng)的塑造技術(shù)與社會(huì)嵌合的形態(tài)，左右技術(shù)的發(fā)展方向，以此創(chuàng)造未來的科技生活。引入政治經(jīng)濟(jì)學(xué)與歷史社會(huì)學(xué)的視角，通過對歷史與實(shí)踐中具體技術(shù)的分析，發(fā)現(xiàn)技術(shù)升級(jí)內(nèi)在于社會(huì)創(chuàng)新之中，正是在跨界、震蕩、沖突式的社會(huì)互動(dòng)中啟發(fā)了技術(shù)進(jìn)程的向量參數(shù)。沒有人對技術(shù)的想象以及使用，就不存在技術(shù)的社會(huì)效應(yīng)。將技術(shù)置于與人類的政治討論與規(guī)劃中進(jìn)行考察，在一個(gè)高度"技術(shù)化"的現(xiàn)代社會(huì)中，技術(shù)領(lǐng)域成為了社會(huì)權(quán)力斗爭的核心地帶。
圍繞此輪AI革新產(chǎn)生的思潮沖突，正是不同政治愿景與技術(shù)路線斗爭的映射。加速主義的幽靈，也被喚醒，被權(quán)力話語征用，粉墨登場。
參考資料：
https://www.chaincatcher.com/article/2106392
https://mp.weixin.qq.com/s/PXhmtWMgmoqOKSWHSr3LxA
https://science.caixin.com/2023-03-29/102013411.html
https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html
https://36kr.com/p/2548576393435267
https://www.douban.com/note/683380852/?_i=9018651UAxdjDM,9018681UAxdjDM
https://www.vintagecomputer.net/PCC.cfm
https://www.thepaper.cn/newsDetail_forward_2019817
https://foresightnews.pro/article/detail/41642
https://www.effectiveacceleration.org/posts/mHo5wGDBdKc4WbCwJ/the-effective-accelerationism-2-0-specifications
https://www.e-flux.com/journal/46/60070/accelerationist-aesthetics-necessary-inefficiency-in-times-of-real-subsumption/
Machine for a Long Revolution:
Computer as the Nexus of Technology and Class Politics in China 1955-1984
WANG, Hongzhe，2014
鄂公網(wǎng)安備 42010302001612號(hào) 