哈嘍！伙伴們，我是小智，你們的AI向?qū)?。歡迎來到每日的AI學(xué)習(xí)時(shí)間。今天，我們將一起深入AI的奇妙世界，探索“關(guān)于 DeepSeek 的研究和思考 (Archerman Capital)”，并學(xué)會(huì)本篇文章中所講的全部知識點(diǎn)。還是那句話“不必遠(yuǎn)征未知，只需喚醒你的潛能！”跟著小智的步伐，我們終將學(xué)有所成，學(xué)以致用，并發(fā)現(xiàn)自身的更多可能性。話不多說，現(xiàn)在就讓我們開始這場激發(fā)潛能的AI學(xué)習(xí)之旅吧。

關(guān)于 DeepSeek 的研究和思考 (Archerman Capital)：

關(guān)于這幾天很火的 DeepSeek, 我們 (Archerman Capital) 做了一些研究和思考, 和大家分享, enjoy! 灰色部分是技術(shù)細(xì)節(jié), 不感興趣的可略過。?
?
幾個(gè)事實(shí)?：
?
1.DeepSeek 不是套殼不是蒸餾美國的大模型。 雖然中國有些大模型是套殼和蒸餾的, 但 DeepSeek 不是。?
?
2.核心架構(gòu)還是基于 Transformer, deepseek 在架構(gòu)、工程設(shè)計(jì)上進(jìn)行了創(chuàng)新和工藝提升, 實(shí)現(xiàn)效率優(yōu)化。架構(gòu)上, 采用了混合專家模型 (MoE)、多頭潛注意力 (MLA)、多令牌預(yù)測 (MTP)、長鏈?zhǔn)酵评?(CoT)、DualPipe 算法等設(shè)計(jì), 并進(jìn)行了依賴強(qiáng)化學(xué)習(xí) (RL) 而不加入監(jiān)督微調(diào) (SFT) 的訓(xùn)練嘗試。工程上, 在數(shù)據(jù)精度 (FP8 混合精度)、底層通信等方面進(jìn)行了優(yōu)化。這些方法在學(xué)術(shù)界都已經(jīng)有了, Deepseek 沒有過于追求新技術(shù), 而是花了心思把這些方法都用上, 解決了一些技術(shù)的應(yīng)用難點(diǎn), 在理論應(yīng)用和工程上找到平衡, 具體如下:?
?
MoE: Mixture of Experts (混合專家模型)。將模型劃分多個(gè)專家模塊來進(jìn)行分工。訓(xùn)練中將不同專家模塊分配到不同計(jì)算設(shè)備訓(xùn)練, 提升訓(xùn)練效率。推理時(shí), 僅動(dòng)態(tài)激活部分專家 (37B 參數(shù)), 而非全模型參數(shù) (671B 參數(shù)), 減少計(jì)算負(fù)擔(dān)。但是 MoE 經(jīng)常會(huì)面臨某些專家承擔(dān)所有工作, 其他專家不被使用的問題, 業(yè)內(nèi)會(huì)通過一如輔助損失來對此調(diào)控、平衡各個(gè)專家模塊的工作量, 而 deepseek 通過無輔助損失的自然負(fù)載均衡 (引入一個(gè)無形的手而不是人為調(diào)控)、共享專家機(jī)制來解決該問題。?
?
MLA: Multi-Head Latent Attention (多頭潛注意力)。擴(kuò)展了傳統(tǒng)的多頭注意力機(jī)制, 引入潛向量 (latent variables), 可以動(dòng)態(tài)調(diào)整注意力機(jī)制, 捕捉任務(wù)中不同的隱含語義。在訓(xùn)練中減少內(nèi)存和計(jì)算開銷, 在推理中降低 KV 緩存占用空間。?
?
MTP: Multi-Token Prediction (多令牌預(yù)測)。一般 LLM 一次生成 1 個(gè) token, 采用單步預(yù)測。deepseek 在特定場景下能同時(shí)預(yù)測多個(gè) token, 來提高信號密度。一方面能夠減少上下文漂移、邏輯更連貫, 也能減少一些重復(fù)中間步驟, 在數(shù)學(xué)、代碼和文本摘要場景能提升效率。?
?
CoT: Chain of thought (思維鏈)。一種訓(xùn)練和推理方法, 將復(fù)雜的問題拆分成小步的中間邏輯, 細(xì)分邏輯鏈條。在訓(xùn)練階段, Deepseek 用標(biāo)注的 Long CoT 數(shù)據(jù)微調(diào)模型, 讓模型生成更清晰的推理步驟, 在強(qiáng)化學(xué)習(xí)中用 CoT 設(shè)計(jì)獎(jiǎng)勵(lì)優(yōu)化, 增強(qiáng)長鏈推理能力, 并且在此過程中觀察到了模型的反思 (回溯推理路徑)、多路徑推理 (能給出多個(gè)解)、aha 時(shí)刻 (通過策略突破瓶頸) 等自發(fā)行為。?
?
DualPipe (雙重流水線): 傳統(tǒng)訓(xùn)練信息流水線會(huì)產(chǎn)生一些等待時(shí)間、有“流水線氣泡”, deepseek 設(shè)計(jì)了一個(gè)雙重流水線, 讓一個(gè)計(jì)算階段在等待數(shù)據(jù)傳輸時(shí)可以切換到另一批數(shù)據(jù), 充分利用空閑時(shí)間。

R1-Zero: Deepseek 在 V3 基礎(chǔ)模型上, 僅通過強(qiáng)化學(xué)習(xí) (Reinforcement Learning) 訓(xùn)練, 而不加入 SFT (Supervised fine tuning) 數(shù)據(jù), 訓(xùn)練了 R1-Zero 模型, 探索了模型不依賴人類標(biāo)注數(shù)據(jù)微調(diào)、自主推演的能力, 打開了新的思路。但 R1 模型仍然采取 SFT 數(shù)據(jù)優(yōu)化推理和生成質(zhì)量。?
?
FP8 混合精度訓(xùn)練: 引入了 FP8 混合精度訓(xùn)練框架, 相比傳統(tǒng)的 FP16 精度, 數(shù)據(jù)內(nèi)存占用更少, 但在一些算子模塊、權(quán)重中仍然保留了 FP16、FP32 的精度, 節(jié)省計(jì)算資源。?
?
底層通信優(yōu)化: 開發(fā)了高效的通信內(nèi)核, 優(yōu)化對帶寬的利用, 保證數(shù)據(jù)傳輸效率, 并能支持大規(guī)模部署。?
?
拿內(nèi)燃機(jī)和汽車的發(fā)明打個(gè)比方, 德國人發(fā)明了內(nèi)燃機(jī)和汽車, 美國人喜歡 Scaling Law, 排量越大馬力越大, 于是從 2 升到 4 升, 甚至 8 升排量的車在美國都很常見, 所以美國肌肉車很耗油。雖然源頭技術(shù)不是日本發(fā)明的, 但日本人擅長把一件事做精, 工程上做很多優(yōu)化, 日本 2.5 升排量的車甚至可以做到和美國 5 升排量車一樣的百公里加速指標(biāo)。比如輕量化設(shè)計(jì)把大鋼板換成鋼條 (類似通過稀疏的辦法減少大模型的參數(shù)量); 渦輪增壓利用廢氣能量增加空氣供給, 提高燃燒效率; 精密制造, 使得發(fā)動(dòng)機(jī)零部件的配合更加緊密, 從而減少能量損失; 等等。?
?
3.有些宣傳說 DeepSeek 的訓(xùn)練成本是 550 萬美元, 是 Meta 的 1/10, OpenAI 的 1/20, 好像一下子比別人厲害了 10 倍 20 倍, 這有點(diǎn)夸張。 因?yàn)楝F(xiàn)在在美國預(yù)訓(xùn)練幾千億參數(shù)的一個(gè)模型其實(shí)也到不到 2000 萬美元的成本, DeepSeek 把成本差不多壓縮到三分之一。Meta 和 OpenAl 花的錢多是因?yàn)榍把靥铰? 探路就意味著會(huì)有浪費(fèi), 而后發(fā)追趕是站在別人的肩膀上, 是可以避開很多浪費(fèi)的。另外算力成本在過去幾年是指數(shù)型下降的, 不能這么機(jī)械的比較。打個(gè)不恰當(dāng)?shù)谋确? 創(chuàng)新藥的研發(fā)需要十年幾十億美元, 而仿制藥的研發(fā)一定會(huì)更快更省。另外成本的統(tǒng)計(jì)口徑也沒有統(tǒng)一的標(biāo)準(zhǔn), 可以有很大的差別。?

幾個(gè)觀點(diǎn):?
?
4.DeepSeek 代表的是整個(gè)開源相對閉源的一次勝利, 對社區(qū)的貢獻(xiàn)會(huì)快速轉(zhuǎn)化為整個(gè)開源社區(qū)的繁榮, 我相信包括 Meta 在內(nèi)的開源力量, 會(huì)在此基礎(chǔ)上進(jìn)一步發(fā)展開源模型, 開源就是一個(gè)眾人拾柴火焰高的事情。?
?
5.OpenAl 這種大力出奇跡的路徑暫時(shí)看顯得有點(diǎn)簡單粗暴, 但也不排除到了一定的量又出現(xiàn)了新的質(zhì)變, 那閉源和開源又將拉開差距, 這也不好說。從 AI 過去 70 年發(fā)展的歷史經(jīng)驗(yàn)來看算力至關(guān)重要, 未來可能依然是。?
?
6.DeepSeek 讓開源模型和閉源模型一樣好, 并且效率還更高, 花錢買 OpenAI 的 API 的必要性降低了, 私有部署和自主微調(diào)會(huì)為下游應(yīng)用提供更大的發(fā)展空間, 未來一兩年, 大概率將見證更豐富的推理芯片產(chǎn)品, 更繁榮的 LLM 應(yīng)用生態(tài)。?
?
7.基礎(chǔ)大模型終將 commoditize (商品化), toB 領(lǐng)域看誰能將 LLM 更好和復(fù)雜的生產(chǎn)環(huán)節(jié)銜接好幫客戶落地提高生產(chǎn)效率, toC 領(lǐng)域看誰有流量入口, 最終才會(huì)獲取 AI 產(chǎn)業(yè)價(jià)值創(chuàng)造中最多的利潤。?
?
8.對算力的需求不會(huì)下降, 有個(gè) Jevons 悖論講的是第一次工業(yè)革命期間蒸汽機(jī)效率的提高使得市場上煤炭的消耗總量反而增加了。類似從大哥大年代到諾基亞手機(jī)普及的年代, 正因?yàn)楸阋肆怂圆拍芷占? 因?yàn)槠占傲怂允袌隹傁M(fèi)量增加了的。
?
9.對數(shù)據(jù)的需求不會(huì)降低, 巧婦難成無米之炊, 沒有米怎么做飯, 算法的提高相當(dāng)于做飯吃飯變得更快, 對數(shù)據(jù)的渴求會(huì)更大。?
?
研究期間, 我們與幾位學(xué)術(shù)界和工業(yè)界的專家進(jìn)行了交流, 由于尚未獲得公開提名的許可, 就暫不提及具體姓名了, 但在此特別表達(dá)感謝! Archerman Capital? 是一家美國的成長期股權(quán)投資機(jī)構(gòu), 專注于人工智能、數(shù)據(jù)基礎(chǔ)設(shè)施、網(wǎng)絡(luò)安全等領(lǐng)域的成長期投資。其投資組合包括 Databricks, Scale AI, Tenstorrent 等。該機(jī)構(gòu)采用高度研究驅(qū)動(dòng)和第一性原理的方法。公司總部位于波士頓, 在紐約和硅谷設(shè)有投資團(tuán)隊(duì)。以上是純分享, 并非投資建議

嘿，伙伴們，今天我們的AI探索之旅已經(jīng)圓滿結(jié)束。關(guān)于“關(guān)于 DeepSeek 的研究和思考 (Archerman Capital)”的內(nèi)容已經(jīng)分享給大家了。感謝你們的陪伴，希望這次旅程讓你對AI能夠更了解、更喜歡。謹(jǐn)記，精準(zhǔn)提問是解鎖AI潛能的鑰匙哦！如果有小伙伴想要了解學(xué)習(xí)更多的AI知識，請關(guān)注我們的官網(wǎng)“AI智研社”，保證讓你收獲滿滿呦！