陳默看著屏幕,沒有掩飾眼中的滿意。
OpenAI成立時間不長。
團隊能夠進展如此迅速,一部分來自不計成本的算力和人才投入。
更重要的是,他們沒有沿著2015年最流行的路線,為每一種任務單獨搭建模型。
陳默從成立之初便提出,大量無標註數據、自監督訓練、統一表示與跨任務遷移,才是通往更強人工智慧的關鍵。
他雖然不會寫代碼,但卻能讓團隊避開未來數年已經被證明價值有限的岔路。
馬斯克靠向椅背,眼中難掩驕傲:「事實證明,正確的道路比多雇一千名谷歌工程師管用得多。」
「只能讓我們暫時領先。」陳默沒有被演示結果沖昏頭腦,「谷歌一旦確認這條路線有效,很快便能調動比我們更多的算力和人員。」
「想把領先變成真正的優勢,下一步需要將零散研究合併起來。」
他站起身,走向白板。
目前OpenAI內部仍將語言、圖像、遊戲和機器人視為幾個相對獨立的研究方向。
團隊已經開始共享部分底層方法,卻沒有統一的長期定義。
陳默拿起筆,在白板中央寫下四個字。
基礎模型。
現場大部分人第一次看見這個詞。
「未來最重要的人工智慧,不會是只能下棋、識別人臉或者回答某一種問題的專用程序。」
「它應該先通過海量數據,學習語言、圖像和現實世界中最基礎的結構。」
「隨後,只需要少量數據、指令或者環境反饋,便能適應不同任務。」
「它更接近一個承載智能能力的平台。」
Sam盯著白板:「如果徹底按這套邏輯走,現有兩千張顯卡連下一代架構的門檻都摸不到,算力開銷每年會翻數倍。」
「這就是今天需要解決的第二個問題。」陳默重新坐下。
算力擴建方案被投到屏幕上。
OpenAI目前已經擁有兩千餘張GPU,並與幾家雲計算公司建立合作。
這套規模放在普通研究機構中堪稱奢侈。
面對基礎模型,卻只能算第一步。
技術團隊希望在未來十八個月將可用算力擴大四倍,同時搭建自己的分布式訓練系統。
預計總投入超過三億美元。
馬斯克率先表態:「我支持。如果我們因為擔心花錢而放慢速度,谷歌不會給我們第二次機會。」
陸靜怡翻開預算:「錢可以解決。但三億美元不是一次性支出。」
她看向Sam。
「OpenAI依靠發起人長期捐贈,能夠支撐三年,未必能夠支撐十年。」
「如果基礎模型真的成為你們定義的平台,商業化遲早會發生。」
這也是桌面上第三份方案存在的原因。
完全依賴捐贈,OpenAI很難和谷歌、微軟等公司進行長期算力競爭。
過早商業化,又可能讓研究方向被收入和投資人控制。
楊植林想起清華飯局上的問題。
「如果未來需要商業化,哪些成果繼續開放?」
「論文、代碼、訓練數據,還是完整模型?」
「全部開放,任何公司都可以拿走OpenAI投入數十億美元訓練的成果。」
「完全封閉,OpenAI又會變成另一家普通科技公司。」
Sam沒有立即回答。
這正是他提交組織治理方案,卻始終無法徹底解決的矛盾。
梁文豐第一次開口:「問題可能不在開放或者封閉。」
眾人看向他。
「而在於我們將人工智慧看成什麼。」
梁文豐指向白板上的基礎模型。
「如果它只是軟體,最簡單的方法就是賣許可證。」
「如果它真的會成為平台,那麼模型能力、算力和數據會共同構成新的基礎設施。」
「基礎設施可以向外提供服務,但不能把所有底層控制權交給少數客戶。」
他在量化市場中看到過相似情況。
單一策略可以出售。
完整交易系統一旦交出去,對方得到的便不再是一項產品,而是持續製造策略的能力。
陳默一錘定音:「論文、工具鏈與安全規範全面開源,核心參數與高風險能力閉門受控。」
「OpenAI不是一家公司,它是匯聚算力、高校與產業的神經中樞。」
「我們不需要把所有優秀人才都變成員工。」
「它可以成為一張研究網絡。」
「大學、實驗室和企業保留各自數據與智慧財產權,只在基礎方法、算力工具和安全研究上合作。」
會議從下午持續到傍晚。
白板上的內容越來越多。
基礎模型、長期記憶、跨任務遷移、人類反饋、工具使用、模型安全。
這些詞在2015年大多還沒有成為人工智慧產業的共同語言。
今天,卻第一次被放進同一張路線圖中。
最終,發起人委員會通過下一階段算力擴建計劃。
三億美元不會一次撥付。
第一階段用於擴建GPU集群和分布式訓練系統,後續資金根據模型能力、訓練效率與安全評估逐步釋放。
OpenAI—卡內基梅隆語言智能聯合項目正式進入合同階段。
深度求索被納入合作研究網絡,在國內建立獨立AI研究節點。
至於最敏感的組織問題,眾人沒有強行在一天內得出答案。
陳默只推動通過了一份臨時原則。
研究論文、通用工具和低風險代碼保持開放。
完整模型參數、大規模訓練數據與可能被濫用的能力,需要經過技術、安全和治理三方共同評估。
任何一名發起人、捐贈方或商業機構,都不能單獨決定釋放或者封存一項核心成果。
商業實體是否成立、資本回報如何限制、最終控制權歸屬哪裡,留到下一階段繼續討論。
馬斯克看著那份臨時原則,沒有反對。
Sam也簽下自己的名字。
可陳默知道,這場分歧並沒有消失。
隨著模型越來越強、投入越來越大,今天暫時放下的問題,遲早會重新回到所有人面前。
會議結束時,已經接近晚上七點。
其他人陸續離開會議室。
伊利亞卻沒有立即起身。
他重新播放了一遍下午的語言模型演示。
「陳。」
「有件事,正式報告裡不適合寫得太明確。」
陳默停下腳步。
「你說。」
「谷歌的整體實力依然遠超我們。」
伊利亞望著屏幕上的回答。
「但只看統一預訓練和跨任務遷移,這個原型已經超過我離開前見過的內部項目。」
「只要下一代訓練能夠成功,谷歌便不再是絕對領先者。」
陳默沒有表現出意外。
「消息瞞不了多久,第一篇論文發布以後,他們便會知道。」
「所以我們只剩下一個辦法。」
「什麼?」
這時,馬斯克推開會議室的門。
他已經換掉白天的外套,手裡拿著一份剛剛送來的發射簡報。
「各位,討論人工智慧的時間結束了。」
「佛羅里達的天氣情況不錯。」
「獵鷹九號將在明晚按計劃發射。」
馬斯克看向陳默,眼中帶著掩飾不住的興奮。
「現在,該去看看一枚火箭能不能自己回家了。」