深度網絡化。
可以說斯坦福團隊的成果之所以能炸出那麼大的動靜，根本原因就在於他們號稱把這道坎往上抬了幾層，哪怕只是幾層，那也是整個領域眼下最著急的突破方向。
但漆昊說，斯坦福沒有解決問題。
這一點雅戈拉已經驗證了，沒說錯。
可漆昊同時還說，他自己優化後的吉洪諾夫框架，也無法解決深度網絡化問題。
這就很有意思了。
雅戈拉把漆昊整條推導邏輯在腦子裡重新梳理了一遍。
把求解域搬進帶權索伯列夫空間，配上主動式殘差疊代，雙管齊下把誤差壓進收斂閾值，這套方案在理論上確實能解決奇異點附近的數值偏移，但漆昊自己點出來了，這只是補齊了正則化框架在求解端的漏洞，深度網絡化的問題不在這裡。
誤差會隨層數指數衰減，本質上是因為每一層的梯度信息在傳遞過程中都在做乘法，而這個乘法鏈條一旦拉長，稍微偏離單位譜徑，結果就會爆炸或者歸零。
想從根本上解決這個問題，就不能只在正則化上做文章，還需要配合拿出新的技術來解決問題。
難道漆昊真的找到了解決的方法？
雅戈拉現在恨不得立馬飛到華國去找漆昊，求他把寫好的論文發出來。 正在胡思亂想的時候，尤里走了進來。
「教授，您看到漆昊在斯坦福那篇論文下面的comment了嗎？」
雅戈拉說：「我下午已經驗證過了。」
尤里沒想到對方動作那麼快：「您已經驗證完了？」
雅戈拉把桌上那一疊草稿紙往前推了推：「初步驗證完了，核心推導沒有問題，動態約束算子的構造是自洽的，充分條件的證明也站得住，你要看嗎？」
尤里走過來，翻了幾頁，一臉驚喜：「有了這份驗證，那我們可以省下很多時間了。」
「我們打算組織一批人正式做驗證，給漆昊做一個背書。」
「您也知道，現在西方那邊的幾個大團隊肯定也在盯著這件事，有些人不是純數專業出身，很有可能無法完全看懂漆昊的推導。」
雅戈拉點點頭：「我聽說漆昊的論文多次引用蘇聯的文獻，他的思考邏輯也很有蘇式的風格，現在看到這篇comment，我更加確信這種說法是對的，說實話，他比現在很多俄國的年輕人還要更尊重蘇聯的學者。」
「我們幫他做背書，是應該的。」
「初步驗證我這裡完成了，接下來可以用實例來跑，找幾個經典的不適定問題，把漆昊的框架套進去，數值實驗的結果擺出來，比什麼都有說服力。」
尤里精神一振，說：「教授，那您覺得，我們在做驗證的同時，是不是可以順手找一些相關領域的論文覆核一下？」 「畢竟現在吉洪諾夫框架的理論邊界已經被重新擬定了，很多建立在原有框架之上的推論，可能需要重新審視一下。」
「最好是歐美的。」雅戈拉補充說。
尤里心領神會：「那就從相關領域引用量前兩百的開始吧，正好，樣本夠大，說服力也足。」
雅戈拉十分貼心地補了一句：「論文質量參差不齊，你們仔細看，別誤傷自己人。」
相比莫斯科這邊的順利進展，太平洋對岸的情況就要熱鬧得多了。
斯坦福克里斯多夫教授的辦公室，此刻氣氛頗為微妙。
白板上寫滿了公式，八九個博士生圍坐在一起，每個人的面前都攤著漆昊那條comment的列印稿，每個人的表情都一言難盡。
羅伯特看著手中的列印稿，忍不住問道：「等一下，這裡的上角標，他到底是在標階數還是在標疊代步數？」
「我研究了二十分鐘，結論是都有可能。」
羅伯特：……
「他的上角標是雙重含義？」
】】首】發】更】新！ 「或者，漆昊認為讀者應該通過上下文自行判斷。」
這是蘇聯數學傳統的一種獨特風格，記號復用。
在蘇聯的教材和論文體系里，同一個符號在不同段落承擔不同任務是完全正常的事。
蘇聯學派主打分析，偏微分，力學，概率論不分家，柯爾莫哥洛夫、朗道一脈常年數學物理混用寫作。
頻繁跨學科行文，為了書寫簡潔，不願意為物理、分析、幾何等各準備一套獨立字母表，所以主動選擇復用符號。
還有一個原因嘛，就是跟當時法國布爾巴基學派有關係。
這個學派的核心宗旨以結構主義與公理化為核心，將整個數學體系拆解為代數、拓撲、序三大基礎母結構，所有數學分支都依託這套統一框架衍生、排布。
在他們的學術準則里，數學的第一要義要求絕對嚴謹，還有符號唯一。
就是絕不允許同一個字母，同一個標記，在不同語境下有兩種及以上的含義。
而蘇聯數學學派，就覺得布爾巴基事多。
阿諾德老爺子就說過：「法國人執著拆分f（函數）與f(x)（函數值），他們不一樣，日常隨手就寫y=y(x)完事。」
漆昊畢竟一直在和蘇聯文獻、專著打交道，他日常使用符號的習慣，早就受到了蘇聯學派的影響，之前他的論文都面向於搞純數理論研究的人，大家根據上下文能明白漆昊想表達的意思。 但現在不一樣了，閱讀這篇comment的人大多數都是計算數學領域的學者，或者有些還是純計算機領域的學者，面對漆昊這一篇有著蘇聯學派影子的數學推導，自然頭大了起來。
克里斯多夫站在白板前，正在和漆昊的記號體系做搏鬥，最讓他抓狂的其實不是復用問題。
他看到顯然可得這幾個字一下火氣就冒了上來。
他在白板上復現其中的五步，花了有一個小時。
「這哪裡顯然了？」
克里斯多夫把列印稿摔在桌上：「如果這對他來說是顯然的，那他到底是個什麼物種？」
「真不知道這些數學家繼承誰的不良傳統了，一個個都要寫顯然可得。」
布蘭登嘆了口氣：「其他人我不知道，但漆昊很有可能是從蘇聯數學家那裡繼承的，我聽說他特別喜歡看蘇聯文獻。」
「好端端的，他為什麼要學蘇聯數學家的，美國數學家不夠他學嗎？」
克里斯多夫不理解，也不尊重。
克里斯多夫背著手，看著白板上自己補全的五個推導步驟，沉默了一會兒，說：「伊桑，第七頁的那個動態約束算子，你搞清楚定義了嗎？「
伊桑低頭翻頁：「算子的構造方式我基本理解了，但漆昊在引入這個算子之前用的那個記號，他在括號里寫的東西和上面那個是同一個東西嗎？」 克里斯多夫走過去看了一眼，沒說話。
他也不確定。
看來漆昊把能省的地方全省了，該死的數學家！
難道就不能稍微細化兩步，照顧下閱讀這篇comment的人嘛！
關係到自己團隊的論文，克里斯多夫最後只能說：「繼續，第七頁搞不定，後面也無法看懂，先把算子的定義確認清楚，實在不行，去數院找人。」
伊桑等人只能低頭繼續啃。
他們連comment都沒有研究完，自然不知道這一場由漆昊引起的風波才剛剛開始。
京城，燕大。
在進會議室之前，專門負責統籌高校科研成果轉化、校企商務談判、智慧財產權合作等燕大產學研合作辦公室的沈主任找到了漆昊。
他看見漆昊還在看有關於英偉達的資料後，說：「漆昊，你不用緊張，這方面我們基本都熟悉，你到時候負責和黃總聊技術方面的內容就行，剩下的都交給我們。」
「時間差不多了，我們現在去會議室吧。」
漆昊沒著急，硬是把資料看完後，才跟著沈主任等人去了會議室。 這次談判，除了漆昊和沈主任之外，燕大還派了兩名研究院的智慧財產權法務專員，他們負責專門審核合作協議中的版權專利，科研成果歸屬，保密條款等法律內容。
一進會議室，雙方打過招呼後，沈主任就把最新一版的條款擺在桌上，看向對面：「關於底層Spec技術規範和ISA指令集架構的信息交換條款，貴方的最新立場是？」
英偉達法務負責人直接開口：「這一條款，我們確實無法接受，CUDA編譯器的底層技術規範和GPU硬體控制指令集是英偉達的核心資產，涉及數十年的架構積累，按照現有的合規框架，這類信息的對外開放需要走獨立的審查程序，短期內不具備可行性。」
他停頓了一下：「但考慮到漆昊先生在QInet上的貢獻，以及雙方未來合作的深度，我們黃總願意在股權激勵上做出相應的調整，將原有的0.2%RSU提高到0.35%，這是我們目前能給出的最大幅度的讓步。」
0.35%。
這已經是超出沈主任預期的結果了，沈主任起初設定的目標是0.3%，現在多出來的那零點零五個百分點，換算下來是實實在在的資金，不是小數點後面無關緊要的尾數。
見好就收，這是正常的談判直覺。
他低聲向漆昊說：「漆昊，我覺得這個值差不多行了，算上之前談好的條件，你穩賺。」
漆昊沒點頭。
他思考了下才說：「黃總，我知道您提出0.35%已經拿出了誠意，但我有另一個想法想聊一聊。」
黃總對漆昊一直以來都很欣賞，現在聽到對方有其他想法，他也好奇究竟是什麼。
漆昊回想來會議室之前看的資料，說：「英偉達是無晶圓廠商，GPU核心晶圓由台積電代工，這個架構短期內不會變，但晶片封測不是晶圓製造，周邊配套硬體，PCB板卡，散熱組件，電源模組，這些不涉及先進位程，國內的產能完全能吃得下。」 老黃沒接話，他隱隱約約猜到漆昊想要幹什麼了。
「我看過英偉達的供應鏈布局。」
「目前封測環節大部分在台市，板卡組裝分散在幾個區域，產能利用率不算高，交付周期也不算短，華國大陸這邊，長三角和珠三角的配套能力是成熟的，人力成本比歐美低，物流半徑比台市更貼近最終市場。」
「如果英偉達願意把晶片封測、周邊硬體配套這部分產業鏈逐步遷移到大陸，對雙方來說都是有利的。」
沈主任在旁邊聽得心跳加速。
他知道漆昊要幹什麼了。
漆昊這不是在談自己的利益，他在給整個國內半導體產業鏈找活路，難怪漆昊之前在看資料，原來是為了這個？
QInet出來之後，國內半導體行業確實有一波動靜，有些企業摩拳擦掌，想趁著深度學習這波風浪，往晶片這條線上擠一擠。
但問題在於，整個產業鏈的外部動力不足，沒有足夠體量的訂單來迫使國內半導體產業鏈在技術和人才培養上下功夫。
技術研發和人才培養都是要錢的，訂單都沒有，那些企業自然不願意在前期投入太多。
所以口號喊過之後，先前還積極的幾家企業又回歸常態了。
如果這個時候能把英偉達的供應鏈部分環節拉進來，哪怕只是封測和配套，那也是一個巨大的牽引力，足夠把一批企業帶起來。 老黃沒有立刻回應。
沉默持續了大概五秒。
然後他開口了:「漆昊，我想問你一個問題。」
「你所說的這一切，其實都建立在深度學習領域有發展的前景之上。」
「但你為什麼會如此篤定深度學習領域一定會有發展?」
「據我所知，目前相關訓練已經到了一個瓶頸，谷歌那邊的網絡模型訓練下來只有二十二層，整個學界都在找突破口，但沒人敢打包票說這個瓶頸什麼時候能破。」
「我和你合作，看重的是你身上的潛力，是QInet背後體現出來的那種對問題本質的洞察力，但說實話，目前我能給出的條件，已經是基於這份潛力的最大化估值了。」
「你現在讓我把供應鏈遷移到大陸，這不是一個小動作，這是戰略級的調整，需要投入的資源、時間、政治成本，都不是一個0.35%的RSU能覆蓋的。」
「如果深度學習的瓶頸要到五年，十年後才能突破，那麼我答應你把供應鏈遷移到大陸的投入，多久才能回本？」
沈主任想要說話，漆昊阻止了他。
「黃總，您估計還沒看到我新發的一篇comment。」
老黃愣了一下。 「如果看了，你就不會覺得那個瓶頸還會卡很久了。」
漆昊其實一點都沒有炫耀的意思，他只是把事實說出來。
沈主任在旁邊差點沒繃住。
我的天才哦，你難道又搞什麼大事了？
漆昊沒管別人什麼反應，他接著說:「我會給黃總一個月的考慮時間，供應鏈遷移是大事，我理解決策需要流程，但這個窗口不會一直開著。」
「至於那個comment，黃總可以找人看看，如果看完之後覺得我說的瓶頸突破是在吹牛，那麼合作作廢。」
他說完，站起身，沖老黃點了點頭，然後轉身往門口走。
沈主任帶著人趕緊跟上。
老黃坐在那裡，看著漆昊的背影消失在門外，半天沒動。
他旁邊的商務經理小聲問:「老闆，我們……」
「查。」
「立刻去查漆昊最近發了什麼comment。」 助理掏出平板電腦，手指在屏幕上飛快滑動，很快就找到了。
「黃總，是在arxiv上，針對斯坦福團隊那篇關於深度網絡正則化的論文。」
助理把平板遞過去。
老黃接過來，低頭看。
老黃的數學功底不差，至少能跟得上這個層次的推導。
他看到了漆昊對吉洪諾夫正則化框架的重構，看到了那個動態約束算子，看到了殘差疊代技術的框架設計。
他大概能夠理解漆昊優化的重要性，所以漆昊是想要他看到這個嗎？
看來，不久的將來，網絡模型的訓練層數能夠突破二十二層了。
不愧是漆昊，能夠解決這個問題。
但新的問題來了，這之後會不會產生新的問題呢？
老黃本想繼續看下其他學者的評論，沒想到，他看到了漆昊comment的最後一話。
「上述優化後的吉洪諾夫理論依然無法解決深度網絡化問題，所以需要引入新的技術，完整理論和實驗驗證，後續將在新論文中公開。」 老黃盯著這行字，眉頭慢慢皺了起來。
漆昊這句話是什麼意思?
難道他的新技術能夠帶來不受層數束縛，穩定收斂的深度網絡訓練範式？
老黃呼吸急促了起來。
訓練更深的網絡，意味著更複雜的模型，更強的表達能力，更廣闊的應用場景，而這一切，都會轉化為對算力的需求對GPU的需求！
英偉達現在押注深度學習，但說實話，老黃有時候也會焦慮，也會懷疑自我。
目前遭遇的瓶頸如果五年，十年都破不了，那深度學習這條路能走多遠，是要打個問號的。
整個行業現在更像是在一個高原上徘徊，大家都知道前面可能有更高的山，但沒人敢保證一定爬得上去。
如果漆昊能把這座山的路給修出來……
老黃努力讓自己保持冷靜，抬起頭，說:「供應鏈遷移到大陸的可行性分析，讓戰略部做一份詳細的報告，兩周之內給我。」