哈嘍！伙伴們，我是小智，你們的AI向?qū)Аg迎來(lái)到每日的AI學(xué)習(xí)時(shí)間。今天，我們將一起深入AI的奇妙世界，探索“大模型落地中的狂奔、踩坑和突圍”，并學(xué)會(huì)本篇文章中所講的全部知識(shí)點(diǎn)。還是那句話“不必遠(yuǎn)征未知，只需喚醒你的潛能！”跟著小智的步伐，我們終將學(xué)有所成，學(xué)以致用，并發(fā)現(xiàn)自身的更多可能性。話不多說(shuō)，現(xiàn)在就讓我們開(kāi)始這場(chǎng)激發(fā)潛能的AI學(xué)習(xí)之旅吧。

大模型落地中的狂奔、踩坑和突圍：

“員工月均加班超 100 小時(shí)，部門負(fù)荷已達(dá)極限?！痹跇I(yè)務(wù)競(jìng)爭(zhēng)壓力急劇增加的今天，大模型落地不再是“趕時(shí)髦”，而是企業(yè)亟需 AI 大模型在降本增效（如流程優(yōu)化、決策加速）上突破現(xiàn)有困局。

企業(yè)希望憑借大模型的數(shù)據(jù)分析、邏輯推理與自動(dòng)化處理能力，破解企業(yè)效率瓶頸，在諸如高效整合多維度數(shù)據(jù)資源將繁瑣、重復(fù)性工作轉(zhuǎn)化為智能化操作，通過(guò)精準(zhǔn)捕捉市場(chǎng)動(dòng)態(tài)與用戶需求在業(yè)務(wù)各環(huán)節(jié)實(shí)現(xiàn)精細(xì)化運(yùn)營(yíng)等方面，釋放人力價(jià)值、顯著降低運(yùn)營(yíng)成本并提升服務(wù)質(zhì)量。

當(dāng)前，已經(jīng)有大批企業(yè)進(jìn)行了大模型落地，這個(gè)過(guò)程中取得了一些成就，也會(huì)遇到一些問(wèn)題。在日前 QCon 全球軟件開(kāi)發(fā)大會(huì)·北京站的“企業(yè) AI 落地中的戰(zhàn)略、組織、與人才”閉門會(huì)上，來(lái)自不同行業(yè)的負(fù)責(zé)人就大模型落地中的成熟場(chǎng)景、踩坑經(jīng)驗(yàn)及組織人才等問(wèn)題進(jìn)行了深度探討。

以下內(nèi)容經(jīng) InfoQ 編輯、提煉和總結(jié)，希望為大家提供參考。

落地演變

總體看來(lái)，傳統(tǒng)行業(yè)對(duì) AI 應(yīng)用呈現(xiàn)階段性變化：早期更多是嘗試性探索，近幾年則轉(zhuǎn)向務(wù)實(shí)路線，聚焦成熟度高的技術(shù)，例如圖像識(shí)別、視覺(jué)算法、OCR 以及自然語(yǔ)言處理（NLP）等，在企業(yè)內(nèi)已有廣泛應(yīng)用。

對(duì)于大模型應(yīng)用，在去年和今年就呈現(xiàn)出了完全不一樣的態(tài)勢(shì)。去年，企業(yè)推進(jìn)可能還會(huì)面臨“有資源卻求人用”的困境，大模型的成熟度未達(dá)企業(yè)落地門檻，因此多以探索和小規(guī)模 Agent 應(yīng)用為主。而在今年，國(guó)產(chǎn)大模型（如 DeepSeek、通義千問(wèn)）能力快速提升，普及了大家對(duì) AI 的認(rèn)知，已呈現(xiàn)“需求井噴”現(xiàn)場(chǎng)，有一定技術(shù)儲(chǔ)備的企業(yè)已逐步具備快速切換技術(shù)方案的能力。

落地要“價(jià)值導(dǎo)向”

具體來(lái)說(shuō)，在新興技術(shù)的發(fā)展初期，企業(yè)可以容忍短期低回報(bào)率，鼓勵(lì)內(nèi)部試點(diǎn)與概念驗(yàn)證（POC）。

到了應(yīng)用落地階段，核心就是要圍繞“價(jià)值導(dǎo)向”做判斷。不同于追求技術(shù)前沿，企業(yè)更看重短期內(nèi)能否產(chǎn)生實(shí)效，尤其對(duì)于成熟技術(shù)來(lái)說(shuō)，要看在六個(gè)月到一年半內(nèi)的時(shí)間里能否得到可量化的投資回報(bào)，尤其如果在前六個(gè)月產(chǎn)生效果會(huì)被特別重視，這類項(xiàng)目要占到 80%，超長(zhǎng)周期項(xiàng)目則謹(jǐn)慎推進(jìn)。

落地過(guò)程中，企業(yè)會(huì)明確用戶體驗(yàn)紅線：禁止將用戶視為“小白鼠”。所有正式上線應(yīng)用需嚴(yán)格滿足以下指標(biāo)：業(yè)務(wù)側(cè)，提升效率或數(shù)據(jù)質(zhì)量的可量化驗(yàn)證；技術(shù)側(cè)，Token 響應(yīng)速度、系統(tǒng)穩(wěn)定性等硬性標(biāo)準(zhǔn)；體驗(yàn)底線：避免用戶感知為“人工智障”。

成熟應(yīng)用場(chǎng)景的三個(gè)特征

下面是當(dāng)前大模型落地中，常見(jiàn)的相對(duì)成熟的應(yīng)用場(chǎng)景。這些場(chǎng)景背后有三個(gè)共性：重復(fù)性強(qiáng)、具備一定創(chuàng)意需求和范式可沉淀，這決定了其最為適合用大模型或 Agent 切入，并盡早產(chǎn)出價(jià)值。

? 知識(shí)問(wèn)答。很多企業(yè)以聊天機(jī)器人的形態(tài)引入大模型，有的直接接入大模型，有的則在此基礎(chǔ)上融合內(nèi)部知識(shí)庫(kù)，構(gòu)建更符合企業(yè)需求的問(wèn)答系統(tǒng)，這類場(chǎng)景尤其在大型企業(yè)中率先落地。
? 智能客服。真正用大模型去完全替代傳統(tǒng)基于規(guī)則的技術(shù)來(lái)做智能客服，效果比以前好很多，這個(gè)場(chǎng)景相對(duì)成熟。
? 物料生成。涉及多模態(tài)能力的應(yīng)用，包括文生圖、文生視頻等。許多電商企業(yè)需要制作大量 SKU 圖文內(nèi)容，現(xiàn)在基本用 AI 完成，人力只負(fù)責(zé)流程管理和后期修正。這個(gè)場(chǎng)景已經(jīng)相對(duì)成熟。
? 數(shù)據(jù)分析。企業(yè)對(duì)數(shù)據(jù)分析的需求越來(lái)越多樣，小型公司可能用 chat-Excel 這類工具應(yīng)對(duì)輕量級(jí)需求（比如 100 個(gè)表以內(nèi)的數(shù)據(jù)），而企業(yè)級(jí)用戶則更依賴 Data Agent 類產(chǎn)品。該場(chǎng)景的核心是數(shù)倉(cāng)治理、指標(biāo)治理和口徑規(guī)范性，否則難以支持上層應(yīng)用。
? 操作自動(dòng)化?？梢钥醋魇莻鹘y(tǒng) RPA 的升級(jí)版，可以在其中加入 planning 的能力，向行業(yè) Agent 演進(jìn)。這一類的 Agent 不是簡(jiǎn)單的流程自動(dòng)化，而是具備一定決策能力的智能代理。
? 代碼生成。代碼補(bǔ)全是較為成為的應(yīng)用。但在企業(yè)看來(lái)，20%~30% 的 AI 代碼貢獻(xiàn)率并不是很理想，因?yàn)殚_(kāi)發(fā)人員每天真正寫代碼的時(shí)間可能也只有 20%~30%，大部分時(shí)間用在溝通、需求理解等方面。另外，Cursor 等在跨職能協(xié)作場(chǎng)景中應(yīng)用效果較好，但還難以用在核心業(yè)務(wù)領(lǐng)域中。

對(duì)于企業(yè)來(lái)說(shuō)，AI 應(yīng)用并不是要做“替代”，而是用來(lái)優(yōu)化日常運(yùn)營(yíng)體系的方式，從流程自動(dòng)化到交互智能化，都是企業(yè)效率升級(jí)的重要路徑。

組織架構(gòu)

沒(méi)有 AI 基礎(chǔ)的企業(yè)，通常需要進(jìn)行架構(gòu)調(diào)整來(lái)推動(dòng) AI 落地。而對(duì)于有一定 AI 技術(shù)積累的企業(yè)，則在架構(gòu)上的調(diào)整較少。

架構(gòu)調(diào)整模式選擇

通常，企業(yè)有兩種調(diào)整模式：成立大規(guī)模專職 AI 團(tuán)隊(duì)推動(dòng)轉(zhuǎn)型；要求現(xiàn)有業(yè)務(wù)團(tuán)隊(duì)自主擁抱 AI。但直接要求業(yè)務(wù)使用 AI 存在一定阻力，或者認(rèn)知不夠不響應(yīng)，或者在興趣喪失后放棄等，后者方式都比較難以推行。因此，經(jīng)過(guò)摸索后，有的企業(yè)選擇成立幾人規(guī)模的 AI 小組，該小組專注賦能而非擴(kuò)張，職責(zé)包括引入 AI 工具并培訓(xùn)業(yè)務(wù)團(tuán)隊(duì)、聯(lián)動(dòng)業(yè)務(wù)團(tuán)隊(duì)及業(yè)務(wù)種子用戶共同探索。

另一種情況是，企業(yè)發(fā)現(xiàn)現(xiàn)在單兵作戰(zhàn)模式、小規(guī)模研發(fā)難以適應(yīng)疫情后的技術(shù)爆發(fā)節(jié)奏，因此將過(guò)去分散的 AI、大數(shù)據(jù)及企業(yè)架構(gòu)等賦能型團(tuán)隊(duì)集中起來(lái)，攻克重點(diǎn)技術(shù)領(lǐng)域。企業(yè)在找到一些較成熟的落地場(chǎng)景后，再分散推進(jìn)各個(gè)業(yè)務(wù)部門進(jìn)行快速?gòu)?fù)制。

無(wú)論何種選擇，大部分企業(yè)都開(kāi)始組建專門的 AI 團(tuán)隊(duì)來(lái)推動(dòng)企業(yè)內(nèi)部的落地，最終可能形成“混合型”的架構(gòu)模式：一方面，一個(gè)精干的小團(tuán)隊(duì)走在探索前沿；另一方面，推動(dòng)產(chǎn)業(yè)團(tuán)隊(duì)去擁抱 AI。

在落地過(guò)程中，人才也是關(guān)鍵的一環(huán)。但要招到真正懂 AI、尤其是懂大模型的頂尖人才，難度是非常大的。

當(dāng)前，企業(yè) AI 人才包括外部引用和內(nèi)部轉(zhuǎn)型兩種方式。外部頂尖人才的引入是常用的方式，企業(yè)希望頂尖 AI 人才可以帶領(lǐng)團(tuán)隊(duì)系統(tǒng)性推進(jìn) AI 與大數(shù)據(jù)布局。隨著業(yè)務(wù)的“跨界”屬性越來(lái)越強(qiáng)，企業(yè)更傾向兼具 know-how 與技術(shù)實(shí)踐能力的復(fù)合型人才。同時(shí)，企業(yè)也會(huì)讓原來(lái)相關(guān)團(tuán)隊(duì)逐步向 AI 團(tuán)隊(duì)轉(zhuǎn)型，比如一些自動(dòng)化團(tuán)隊(duì)、語(yǔ)言團(tuán)隊(duì)等。

年輕化招聘導(dǎo)向

“招人難”是普遍現(xiàn)實(shí)，尤其是大模型和 AI Agent 等方向的人才，本身就極度稀缺。對(duì)于非互聯(lián)網(wǎng)背景的企業(yè)來(lái)說(shuō)，想招到這類頂尖人才難度更高。

很多真正懂技術(shù)的人是剛畢業(yè)幾年、來(lái)自頂尖高校的年輕人，因此一些企業(yè)把招募重心放在這類年輕實(shí)習(xí)生身上，希望他們能通過(guò)參與前沿項(xiàng)目逐步成長(zhǎng)，并最終留到公司。

實(shí)習(xí)生招聘難度雖然較小，但普遍缺乏業(yè)務(wù)理解，因此企業(yè)會(huì)采用“實(shí)習(xí)生 + 資深業(yè)務(wù)同學(xué)”搭配的模式，由后者幫助他們理解痛點(diǎn)、抽象問(wèn)題，再由實(shí)習(xí)生進(jìn)行技術(shù)實(shí)現(xiàn)。這個(gè)過(guò)程中也遇到一些問(wèn)題，比如實(shí)習(xí)生常常對(duì) AI 技術(shù)過(guò)于樂(lè)觀，即使在已有局限性的問(wèn)題上也堅(jiān)持嘗試，這時(shí)就需要技術(shù)負(fù)責(zé)人具備判斷力，適時(shí)止損，確保資源聚焦在真正有價(jià)值的方向上。

專家表示，培養(yǎng)年輕人才的關(guān)鍵在于給予他們信任、成長(zhǎng)空間以及挑戰(zhàn)性課題。如果計(jì)算資源有限，但只要課題有吸引力，依然可以激發(fā)他們的熱情與投入。

此外，為彌補(bǔ)內(nèi)部人才不足的缺陷，企業(yè)也會(huì)引入乙方專家陪跑，通過(guò)篩選案例經(jīng)驗(yàn)豐富的服務(wù)商，由其專家與企業(yè)項(xiàng)目組共同落地場(chǎng)景。

落地經(jīng)驗(yàn)

不要盲目追求模型微調(diào)

一上來(lái)就要求“用自有數(shù)據(jù)微調(diào)開(kāi)源大模型”是最典型的誤區(qū)。表面看似乎一舉三得：獲得自主知識(shí)產(chǎn)權(quán)、向上匯報(bào)有成果、體現(xiàn)團(tuán)隊(duì)技術(shù)價(jià)值，實(shí)則從技術(shù)角度存在致命問(wèn)題：微調(diào)需要高質(zhì)量標(biāo)注數(shù)據(jù)、算力資源及工程化能力，而企業(yè)往往會(huì)低估數(shù)據(jù)治理成本和模型維護(hù)難度，最終導(dǎo)致投入產(chǎn)出嚴(yán)重失衡。

專家給出的建議是分階段構(gòu)建能力。

第一階段：搭建企業(yè)知識(shí)治理平臺(tái)。這一階段的核心目標(biāo)是將分散的業(yè)務(wù)數(shù)據(jù)（文檔、數(shù)據(jù)庫(kù)、員工經(jīng)驗(yàn)等）轉(zhuǎn)化為結(jié)構(gòu)化知識(shí)庫(kù)。其中最大的挑戰(zhàn)是清洗非結(jié)構(gòu)化數(shù)據(jù)（如合同掃描件、會(huì)議紀(jì)要）、將隱性知識(shí)顯性化（如老員工經(jīng)驗(yàn)萃?。＿@項(xiàng)工作必須由一把手推動(dòng)，先選擇垂直場(chǎng)景小步驗(yàn)證（例如客服知識(shí)庫(kù)），同步建立數(shù)據(jù)標(biāo)注、更新和權(quán)限管理機(jī)制。

第二階段：構(gòu)建企業(yè)智能體平臺(tái)。這一階段的重點(diǎn)是如何用大模型對(duì)企業(yè)內(nèi)部大量的 SOP（標(biāo)準(zhǔn)操作流程）進(jìn)行重構(gòu)，以提升效率，如自動(dòng)生成巡檢報(bào)告、智能審批工單等效率提升場(chǎng)景。技術(shù)實(shí)現(xiàn)上，短期以 RAG（檢索增強(qiáng)生成）為主流方案，解決知識(shí)實(shí)時(shí)性問(wèn)題，而未來(lái)，多模態(tài)大模型將催生新型 Agent 范式（如結(jié)合圖紙識(shí)別的工程質(zhì)檢 Agent）。今年，在多模態(tài)能力支持下，會(huì)不會(huì)出現(xiàn)適合企業(yè)內(nèi)部的新型 Agent 范式 是非常值得關(guān)注的。

此外，底座模型更新迭代很快，企業(yè)幾個(gè)月做的功能可能在一個(gè)新模型版本上線就被直接替代了。這時(shí)，AI 負(fù)責(zé)人很容易在內(nèi)部“背鍋”，被質(zhì)疑是否在浪費(fèi)資源。最好是讓模型跑在自己的軌道上，企業(yè)在旁邊做補(bǔ)充性的能力建設(shè)，實(shí)現(xiàn)“水漲船高”的效果。

綁定業(yè)務(wù)深度參與

站在岸上的人永遠(yuǎn)不會(huì)說(shuō)“這個(gè) AI 方案我滿意了”。AI“最后一公里”一定是在業(yè)務(wù)中完成的，需要產(chǎn)品、業(yè)務(wù)和 IT 團(tuán)隊(duì)等的深度協(xié)作，一起推進(jìn)試點(diǎn)、一起閉環(huán)場(chǎng)景。比如業(yè)務(wù)方需承擔(dān)場(chǎng)景配置責(zé)任（如行業(yè)黑話翻譯、分析范式定義）。否則，最后的反饋可能是：“有點(diǎn)用，但 20% 的關(guān)鍵場(chǎng)景跑不通”，這種局面對(duì)于整個(gè)項(xiàng)目是非常危險(xiǎn)的。

成功場(chǎng)景均依賴業(yè)務(wù)一把手的支持，但需避免過(guò)度干預(yù)，例如強(qiáng)求 100% 準(zhǔn)確率導(dǎo)致項(xiàng)目僵局。理想的模式是業(yè)務(wù)領(lǐng)導(dǎo)提供資源支持但不干涉技術(shù)決策。

具體落地過(guò)程中，專家建議雙軌并行的策略推進(jìn) AI 落地。

第一條腿是“速贏模式”，即選一個(gè)關(guān)鍵場(chǎng)景做快速試點(diǎn)，讓組織內(nèi)部的關(guān)鍵人、決策者、業(yè)務(wù)方盡快嘗到 AI 的甜頭。這種試點(diǎn)要選切口小、閉環(huán)快的項(xiàng)目，一般建議控制在半年到一年內(nèi)能看到效果。試點(diǎn)項(xiàng)目不用多，關(guān)鍵是請(qǐng)到業(yè)務(wù)中的 KOL 參與，讓他們對(duì) AI 形成預(yù)期。

第二條腿是“AI Ready”，即做好企業(yè)內(nèi)部的準(zhǔn)備工作。無(wú)論何種場(chǎng)景，最終都需要企業(yè)內(nèi)部私域知識(shí)、私域數(shù)據(jù)的結(jié)構(gòu)化支持。比如數(shù)據(jù)分析場(chǎng)景里，企業(yè)要先把數(shù)倉(cāng)建設(shè)好，梳理清楚指標(biāo)體系和數(shù)據(jù)模型，這樣 data Agent 接入后才能真正跑通。

AI Agent 落地的核心

如今企業(yè)落地中，Agent 是一個(gè)繞不過(guò)的話題。

2024 年被視為 AI Agent 的爆發(fā)起點(diǎn)，硅谷超 80% 的新創(chuàng)公司在布局 Agent 領(lǐng)域。但長(zhǎng)期來(lái)看，“Agent”可能像“App”一樣不再被刻意強(qiáng)調(diào)，而是成為技術(shù)應(yīng)用的底層形態(tài)，其本質(zhì)是大模型能力的延伸，最終融入具體業(yè)務(wù)中而非停留在概念層面。

Agent 的三大核心能力包括：

? 任務(wù)規(guī)劃（Planning）：分解用戶意圖，分步驟執(zhí)行復(fù)雜操作（如訂外賣、訪問(wèn)網(wǎng)頁(yè)）。
? 長(zhǎng)距離推理（Long-Horizon Reasoning）：突破大模型“next token prediction”局限，在長(zhǎng)對(duì)話中保持上下文一致性，實(shí)現(xiàn)持續(xù)需求追蹤。
? 長(zhǎng)鏈條工具調(diào)用（Long-Horizon Tool Using）：串聯(lián)多系統(tǒng)工具 /API，完成端到端任務(wù)閉環(huán)，標(biāo)志從“生成式 AI”到“代理式 AI”的跨越。

當(dāng)前，業(yè)內(nèi)更為看好 Agent 在 B 端的應(yīng)用，可以通過(guò)聚焦垂直場(chǎng)景（如客服、財(cái)務(wù)分析），替代傳統(tǒng) SaaS，通過(guò)深度集成實(shí)現(xiàn)長(zhǎng)鏈條推理與工具調(diào)用。但在 C 端（如通用型 Agent Manus）的形態(tài)還未明確，可能向?qū)?PPT、數(shù)據(jù)分析等場(chǎng)景擴(kuò)展，需用“不設(shè)限”策略吸引專業(yè)消費(fèi)者。

Agent 落地的核心是解決高價(jià)值問(wèn)題（如周報(bào)自動(dòng)化淘汰低效團(tuán)隊(duì)），而非技術(shù)本身。企業(yè)需算清“問(wèn)題價(jià)值 vs 解決成本”的經(jīng)濟(jì)賬，避免過(guò)度投入大模型，而應(yīng)專注在場(chǎng)景問(wèn)題上。

未來(lái)，Agent 可能成為類似微信的“超級(jí) App”，集成多模態(tài)入口（如 AR 設(shè)備），構(gòu)建 Multi-Agent 協(xié)同系統(tǒng)。在智能城市、車路協(xié)同等領(lǐng)域或誕生“市政超級(jí) Agent”，實(shí)時(shí)聯(lián)動(dòng)基礎(chǔ)設(shè)施與決策。

結(jié) 語(yǔ)
總之，企業(yè)在走過(guò)了初期對(duì)大模型抱有過(guò)高期待的階段后，現(xiàn)在已經(jīng)逐步冷靜探索大模型的能力邊界。在落地過(guò)程中，首先合理評(píng)估模型的能力，同時(shí)結(jié)合自身業(yè)務(wù)需求接入應(yīng)用。大模型應(yīng)用整體上還不成熟，但可以從容應(yīng)對(duì)個(gè)別“點(diǎn)狀”場(chǎng)景，未來(lái)形成成熟的“網(wǎng)狀”應(yīng)用場(chǎng)景還需要全行業(yè)的持續(xù)探索。

嘿，伙伴們，今天我們的AI探索之旅已經(jīng)圓滿結(jié)束。關(guān)于“大模型落地中的狂奔、踩坑和突圍”的內(nèi)容已經(jīng)分享給大家了。感謝你們的陪伴，希望這次旅程讓你對(duì)AI能夠更了解、更喜歡。謹(jǐn)記，精準(zhǔn)提問(wèn)是解鎖AI潛能的鑰匙哦！如果有小伙伴想要了解學(xué)習(xí)更多的AI知識(shí)，請(qǐng)關(guān)注我們的官網(wǎng)“AI智研社”，保證讓你收獲滿滿呦！