陳一然的手指落在鍵盤上,跟著茉莉的指揮,代碼開始往外鋪。
雖然都是deepflow的運用,但是他完全沒有參考印奇三人的思路。
從第一個import開始,全部重寫。
網絡結構直接拉到更深的層數,每一層卷積之後都跟了批標準化,激活函數全部從sigmoid換成了ReLU。
優化器換成了Nesterov動量,學習率初始值設在零點零零一,後面掛了一個餘弦退火調度器,這讓衰減曲線不需要手動調。
三個憤憤不平的清華學子,最開始還一臉憤怒的在邊上指指點點。
幾分鐘之後就開始交頭接耳,滿臉震驚。
之後陳一然的速度,讓圍觀的天之驕子人都麻了。
控制台里的代碼完全沒有任何停頓,函數定義,卷積層,池化層,全連接層,訓練循環,早停判斷,驗證集指標回調,全部在陳一然的手下一行接一行往上疊,中間甚至沒有任何一個被刪掉重寫的字符。
十分鐘之後,三個人的思路已經開始跟不上了。
二十分鐘之後陳一然已經寫完了第一部分的代碼,保存之後,他又新建了一個CUDA內核文件。
他在裡面加了一段手動共享內存分配的邏輯,沒有讓編譯器自動管理卷積核往共享內存里的搬移,而是在代碼里手寫了平鋪邏輯。
把輸入數據按塊切割,把權重按索引塞入,繞開全局內存的總線瓶頸。這行邏輯在CUDA編程手冊里沒有現成的示例,全靠對SM架構裡面L1 cache和shared memory的延遲級別的理解。
林驍回來之後,陳一然直接打開了一瓶冰可樂一邊開始噸噸噸,一邊看著有點灰頭土臉的三個人。
【這三個人,心理素質這麼好啊。一般普通本科生,現在已經倒頭便拜了。他們三個,居然還沒跪下。】
陳一然淡定的說:畢竟是清華學子,還是那個姚班,那可是院士親自教出來的,吃過見過的,不是普通人。來繼續,要讓他們後半輩子,一直感覺生活在陰影中。
放下可樂,陳一然繼續手敲,一個小時出頭,陳一然把DeepFlow的加速框架嵌進了訓練腳本,點下了運行鍵。
控制台里彈出了第一行時間戳和訓練日誌,實驗室里非常安靜。
第一個epoch跑完了,控制台刷出了一串數字,訓練準確率九十二點七,驗證準確率九十一,一個epoch的耗時是三十七秒。
陳一然嘆了口氣說:「唉,37秒啊,還是有點久。這台戴爾外星人M17x R2,用的是英偉達GTX 480M。比你們用的GTX 285多了一百多個核,顯存帶寬也高一檔。居然,只比你們快那麼,一個小時,真是失敗啊。」
三個清華學子,已經對陳一然的調侃沒有反應了,他們在邊上小臉煞白,一副道心破碎的樣子。
他們知道會有差距,但是沒想過差距會這麼大。三個人從小就是天之驕子,都是從小就在各種奧林匹克競賽中一路拼殺,才得以進入了姚班。
他們知道deepflow的強大,對陳一然也都有些崇拜,這是技術人員對強者的正常情緒。
但是說實話,他們也不認為自己差那麼多,他們覺得他們也不是沒有妙手偶得,寫出類似東西的實力,這是技術人員對自己的自信。
但是這一個小時出頭,把他們過去十年積累的自信全部打沒了。
印奇作為小團體的領袖,啞著嗓子說:「我承認,確實,我們三個和你不是一個維度的。」
另外兩個人,張了張嘴,最終也沒說出話。
陳一然把筆記本合上,遞給了林驍,然後又開始說他的提議。
「不要和我比,我們公司的人都知道,不要把我當做正常的對比對象,會傷自尊的。我的條件還是那樣,我可以給你們提供資金,我出一百萬美金吧,也就是大概七百萬人民幣。
你們每個人占5%的股份,這個資金量已經是A輪融資的水平了,足夠初期的發展了。我今天寫的這些東西,其實也不怎麼入流,只是炫技,實際上可延伸的東西不多。
回頭我會確立個目標,寫一下基礎的框架,你們三個負責後續的延伸和優化,還是做訓練神經網絡做視覺任務。當然如果你們有別的什麼想做的,也可以和我說,我也會考慮一下。」
三個人互相對視了幾眼,然後頗有些滑稽的,後退了幾步,圍成一圈嘀嘀咕咕的討論了起來。
最後還印奇作為帶過來過談判:「我們三個,各10%怎麼樣?我知道,我們的技術確實不如您,但是我們本身是想自己創業的。唉,現在有點被打擊了,但是只有5%的股份的話。我們總感覺,有點,有點難受啊。」
畢竟是三個剛畢業的大學生,還是都技術專業的理科男,三個人的眼神中都帶著清澈的愚蠢。這談判的話術,讓陳一然差點笑出來。
他想了一下,給出了新的方案。
「我直接投資是可以有一百萬美金的,百分之五,那就是你們每個人平白無故,就身價抬了五萬美金啊,你們要百分之十也太過分了。
這樣吧,現在這種合作方式太麻煩。你們還是直接來我的公司上班怎麼樣?我的首鋼萬果園,給你們三個專門開一個項目組,你們三個可以做項目組的主管。
然後我們來做視覺訓練上的研究,這個在晶片EDA行業也是有運用的。這些工作經驗,也是你們需要的。
我們先簽五年的合同,如果五年之後,你們想自己創業,我可以放你們走。而且,你們在萬果園好好干,雖然我不能把一些專利權益分給你們。
但是等你們五年之後離職創業的時候,我可以給你們投資,天使輪到C輪我都會跟進。」
三個人又是一陣商量,最後在陳一然開出了每人每月三萬,年底16薪的超高待遇後。幾個人當場和首鋼萬果園簽了合同,成為了萬果園龍眼項目組的初始成員。
陳一然非常滿意的看著三人簽了字,然後又開始慫恿他們去拉人:「你們是姚班的,班裡有什麼厲害的,都可以挖來項目組。你們三個光杆司令可不行,後續你們自己定一個人員需求的單子,然後讓林驍這邊配合你們招人。
我這邊,儘快給你們一個基礎框架,你們按著我的思路往下走。有什麼技術上的問題,在公司的系統里,有一個專門詢問我的提問頁面,在上面給我留言。」
把三個人丟給林驍,讓他們去辦入職,陳一然回了家。
他得開始準備準備了,下周就要回美國了。
凱薩琳那邊已經給了他行程表,這個三月,他估計會一直住在新聞頭條中。