網際網路大會的餘溫尚未散去,陸長青的演講視頻在網上被反覆播放了上百萬次。
在回深圳的飛機上,他心裡想的不是那些掌聲和讚譽,而是一個更根本的問題——長青講的這些未來,靠什麼來實現?
無人駕駛需要算力,無人超市需要算力,在家辦公的協同工具需要算力,AI更需要算力。
沒有算力,長青講的未來就是空中樓閣。
而算力的核心,是AI晶片。
回到長青大廈的第二天,陸長青把張志強叫到了辦公室。
張志強進門的時候,手裡還拿著一份晶片測試報告,臉上帶著一絲疲憊。
長青晶片已經做到了世界一流,可那是在手機處理器和基帶晶片領域,AI晶片是完全不同的物種。
陸長青沒有寒暄,開門見山:「張工,長青要做AI晶片。」
「不是修修補補的升級,是從零開始,自主研發。」
「你告訴我,需要多久?需要多少人?需要多少錢?」
張志強愣了一下。
他知道陸長青遲早會提這件事,可沒想到這麼快。
他想了想,說了一句讓陸長青滿意的話:「陸先生,AI晶片這件事,我早就開始想了。」
「長青晶片團隊裡,我已經悄悄拉了一個預研小組,研究了大半年了。」
陸長青嘴角微微上揚:「說說你的思路。」
張志強站起來,走到白板前面,拿起馬克筆,畫了一張圖。
「AI晶片和普通晶片不一樣。」
「普通CPU是通用計算,什麼都能算,可什麼都不精。」
「AI晶片是專用計算,專門為神經網絡算法設計的。」
101看書 追書神器 101 看書網,𝟙𝟘𝟙𝕜𝕜𝕤.𝕔𝕠𝕞超流暢 全手打無錯站
「神經網絡的計算核心是什麼?是乘加運算。」
「一個神經元接收多個輸入,每個輸入乘以一個權重,求和,再經過激活函數輸出。」
他在白板上寫了一個公式,然後畫了一個矩陣。
「一個神經網絡有幾百萬、幾千萬甚至幾十億個參數。」
「每一次前向傳播和反向傳播,都要做海量的乘加運算。」
「傳統的CPU算這些東西太慢了,功耗太高了。」
「AI晶片的本質,就是用專用的硬體電路,把這些乘加運算加速。」
「不是用軟體算,是用硬體算。」
「軟體算是一步一步來,硬體算是一起上。」
陸長青在沙發上換了個姿勢,示意他繼續。
張志強在白板上畫了幾種晶片的架構簡圖。
「目前主流的AI晶片有三種路線。」
「第一種是GPU,英偉達的A100、H100。」
「GPU本來是為圖形渲染設計的,圖形渲染的核心也是矩陣運算,跟神經網絡天然匹配。」
「英偉達抓住了這個機會,把GPU改造成了AI訓練的主力晶片。」
「通用性強,軟體生態好,什麼模型都能跑。」
「缺點是功耗高,貴,一片難求。」
他在GPU旁邊畫了一個圈,寫了「通用訓練」三個字。
「第二種是TPU,谷歌搞的。」
「核心叫脈動陣列。」
「權重固定在片上計算單元里,數據像流水一樣在陣列里流動。」
「這種方式數據搬移少,能效比GPU高。」
「缺點是通用性弱,基本只適配谷歌自己的生態。」
「第三種是NPU,專為端側推理設計的晶片。」
「手機里的NPU、自動駕駛的NPU、安防攝像頭的NPU,都屬於這一類。」
「特點是低功耗、小面積、推理速度快。」
「訓練還是在雲端用GPU,推理可以在端側用NPU。」
陸長青問了一句:「長青要做哪一種?」
張志強想了想,在白板上寫下了三個方向。
「第一,雲端訓練晶片。」
「對標英偉達的H100,做AI訓練的主力晶片。」
「這條路最難,投入最大,周期最長,可一旦做成了,長青就是全球第二家能做AI訓練晶片的公司。」
「第二,雲端推理晶片。」
「訓練好的模型,部署在雲端做推理。」
「技術難度比訓練晶片低,可市場需求大。」
「第三,端側推理晶片。」
「放在手機里、汽車裡、攝像頭裡。」
「長青有場景,長青的手機、汽車、安防設備,都需要端側推理晶片。」
「這是長青的優勢,別人沒有。」
陸長青站起來,走到白板前面,盯著那張圖看了很久,然後拿起紅色馬克筆,在「端側推理晶片」上面畫了一個圈。
「先做端側。」
「長青的手機需要NPU,長青的汽車需要NPU,長青的安防攝像頭需要NPU。」
「這些場景長青自己就有,不需要求別人。」
「產品做出來就能用,用了就能疊代,疊代了就能進步。」
「等端側站穩了,再做雲端推理。」
「等雲端推理站穩了,再做雲端訓練。」
「一步一個腳印,不跳級。」
張志強在筆記本上記下了這行字,說了一句:「陸先生,端側NPU的設計,我有思路。」
「核心是三點。」
「第一,MAC計算陣列。」
「神經網絡百分之九十的運算都是乘加運算,MAC陣列就是專門幹這個活的硬體。」
「MAC陣列越大,並行度越高,算力越強。」
「可面積和功耗也越大,需要權衡。」
「第二,存儲層級。」
「NPU跟GPU最大的區別是存儲架構。」
「GPU有大容量的高帶寬顯存,NPU依賴片上SRAM。」
「片上SRAM速度快,功耗低,可面積大。」
「多大容量的SRAM,放多大的模型,這是NPU設計的核心取捨。」
「第三,低精度量化。」
「訓練用FP16、BF16,推理用INT8、INT4。」
「精度越低,算力越高,功耗越低。」
「INT8的功耗大約是FP32的四分之一。」
「手機NPU推理用INT8是主流,INT4正在起來。」
陸長青在白板上寫了三個關鍵詞:MAC陣列、SRAM、低精度。
「張工,技術細節你比我懂。」
「我只問三個問題。」
「第一,長青做端側NPU,需要多久?」
「第二,長青的NPU能不能做到世界領先?」
「第三,長青的NPU能不能跟長青的手機、汽車深度整合?」
張志強想了想,伸出了兩根手指:「兩年。」
「第一顆端側NPU晶片,兩年之內流片。」
「性能對標同期高通和蘋果的NPU,不會差。」
「整合的事,長青有優勢。」
「蘋果的NPU只給自己用,高通的NPU賣給所有人。」
「長青的NPU也給自己用,可長青的手機、汽車、安防設備,比蘋果的產品線更寬,數據更多,疊代更快。」
陸長青說了一句讓張志強熱血沸騰的話:「兩年太長。」
「一年半。」
「長青的手機,下一代就要用上自己的NPU。」
「不是PPT上的NPU,是裝在手機里的NPU,是用戶用得到的NPU。」
張志強咬了咬牙:「我試試。」
陸長青說:「不是試試,是一定。」
AI晶片項目組在長青大廈的十四樓成立了。
辦公室不大,幾十個工位擠在一起,桌上堆滿了各種技術文檔和開發板。
白板上貼著NPU的架構圖、MAC陣列的示意圖、存儲層級的金字塔圖。
張志強親自帶隊,從晶片、手機、網際網路三個事業部抽調了最精銳的工程師。
有人做架構設計,有人做MAC陣列,有人做存儲層級,有人做低精度量化,有人做編譯器。
每個人都有自己的任務,每個人都清楚自己在做什麼。
張志強把開發計劃拆解到了每一個月。
第一月,架構設計。
第二月到第四月,前端設計。
第五月到第八月,後端物理設計。
第九月到第十月,流片。
第十一月到第十二月,回片調試。
第十三月到第十八月,軟硬體適配和產品化。
他在計劃表的第一頁寫了一行字:「只許提前,不許延後。」
架構設計的那一個月,是團隊最煎熬的日子。
NPU的核心參數怎麼定?MAC陣列多大?SRAM多大?支持哪些精度?功耗控制在多少?
每一個參數都是一道選擇題,每道選擇題背後都有一堆trade-off。
MAC陣列大了,算力強了,可面積大了,功耗高了。
SRAM大了,能效好了,可面積大了,成本高了。
精度高了,準確率好了,可算力低了,功耗高了。
張志強帶著團隊跑了幾十版仿真,把各種參數組合的性能數據擺在桌上,一條一條地比,一版一版地看。
最終定下來的方案是:MAC陣列,脈動陣列架構。
片上SRAM容量,在面積和功耗可接受的範圍內取上限。
支持精度,訓練用FP16,推理用INT8,預留INT4擴展。
架構方案通過的那天,張志強在報告上簽了字,寫了一句:「方向對了,剩下的就是干。」
前端設計是最燒腦的階段。
幾十萬行Verilog代碼,每一行都要反覆斟酌。
MAC陣列的實現方式、數據流的控制邏輯、存儲器的讀寫仲裁、片上網絡的路由算法,每一個模塊都是一個坑,每一個坑都要有人去填。
有人為了優化一條數據通路,在電腦前坐了整整三天,眼睛熬得通紅,改了幾十版代碼,最終把時序收斂了。
有人為了省幾個百分點的功耗,把存儲器的讀寫策略翻來覆去地改了好幾輪,測試數據一遍又一遍地跑。
後端物理設計比前端更折磨人。
晶片的面積只有指甲蓋大小,可要在上面擺幾百萬個標準單元、幾萬個MAC陣列、幾百塊SRAM。
擺得不好,時序收斂不了,功耗降不下來,信號串擾壓不住。
物理設計組的工程師們天天跟EDA工具較勁,布了一版又一版,優化了一次又一次。
有人開玩笑說:「這哪是設計晶片,這是在螺絲殼裡做道場。」
張志強接了一句:「螺絲殼裡做道場,才是真本事。」
流片的前一天晚上,張志強把團隊召集起來,在會議室里開了一個短會。
白板上貼著最後版的GDSII版圖,密密麻麻的線條和色塊,像一幅抽象畫。
他看著那些年輕的工程師,說了一句讓所有人都記住的話:「從明天開始,這顆晶片就在晶圓廠里生長了。」
「你們能做的已經做完了,剩下的交給時間。」
「等它回來的時候,希望我們都能說一句——我沒有遺憾。」
流片之後的一個月,是漫長的等待。
張志強每天都會打開晶圓廠的進度系統,看那顆晶片走到了哪一步。
光刻、刻蝕、沉積、拋光,每一道工序都有固定的周期,急不來,也催不動。
陸長青有時在走廊里碰到張志強,會問一句:「晶片到哪了?」
張志強每次都會回答同一個字:「等。」
二〇一二年春天,長青的第一顆端側NPU晶片回片了。
晶片從晶圓廠寄回來的時候,裝在防靜電袋裡,被快遞員送到長青大廈的門口。
張志強親自下樓簽收,拿著那個小小的包裹,坐電梯回到十四樓。
工程師們圍過來,沒人說話,所有人的目光都盯著那個包裹。
張志強把包裹放在桌上,拆開,取出防靜電袋,把晶片放在顯微鏡下。
封裝上的絲印清晰可見——長青NPU-1。
他把晶片從顯微鏡下取出來,插到測試板上,接上電源,接上調試器,按下電源鍵。
電流從電源流向晶片,晶片的溫度從室溫慢慢升了上來。
調試器的屏幕上,第一行日誌跳出來了。
不是錯誤,不是警告,是正常的啟動信息。
第二行,第三行,第四行。
所有的自檢項全部通過,沒有一個錯誤,沒有一個警告。
張志強盯著屏幕上那行綠色的「PASS」,愣了好一會兒,然後說了一句:「活了。」
辦公室里的工程師們像炸開了鍋。
有人鼓掌,有人吹口哨,有人拍桌子,有人抱在一起。
有人蹲在角落裡捂著臉不出聲,肩膀在抖,不知道是在哭還是在笑。
張志強站在測試台前面,看著那顆指甲蓋大小的晶片,看著它安靜地運行著測試程序,看著調試器屏幕上跳動的數據。
他在心裡默默地說了一句——長青,有了自己的AI晶片。
消息很快傳到了陸長青的耳朵里。
他沒有去十四樓,可他把那份測試報告要了過去,從頭到尾看了一遍。
報告的最後一頁寫著幾行字:INT8算力,對標同期高通旗艦NPU。
能效比,優於同期蘋果NPU。
面積,小於同期三星NPU。
三句話,三個對比,三個勝出。
陸長青在報告封面上用紅筆畫了一個勾,批了三個字:「好。量產。」
二〇一二年夏天,搭載長青NPU-1的新一代珠峰手機正式發布。
發布會的主題是「智慧的珠峰」,林振華在台上演示了NPU加持下的各項AI功能。
拍照時,AI自動識別場景,人像模式背景虛化,夜景模式降噪提亮。
語音助手響應更快,識別更准。
相冊里的人臉識別、物體識別、場景分類,全部在端側完成,不上雲,不傳數據,保護用戶隱私。
台下掌聲雷動。
有記者問林振華:「長青的NPU是自己研發的嗎?」
林振華說了一句讓台下再次鼓掌的話:「從架構到設計,從代碼到版圖,從流片到量產,全部是長青自己做的。」
「長青不做組裝晶片,長青做的是真晶片。」
發布會結束後,有科技博主寫了一篇長文,標題是「長青NPU,中國晶片的新高度」。
文章最後寫道:「長青用一顆指甲蓋大小的晶片,證明了中國人不僅能設計手機、能造手機,還能設計晶片、能造晶片。」
「這顆晶片不大,可它代表的意義很大。」