哈嘍！伙伴們，我是小智，你們的AI向?qū)?。歡迎來到每日的AI學(xué)習(xí)時間。今天，我們將一起深入AI的奇妙世界，探索“獨家揭秘！智能投顧為何死磕「大小模型協(xié)同」？”，并學(xué)會本篇文章中所講的全部知識點。還是那句話“不必遠(yuǎn)征未知，只需喚醒你的潛能！”跟著小智的步伐，我們終將學(xué)有所成，學(xué)以致用，并發(fā)現(xiàn)自身的更多可能性。話不多說，現(xiàn)在就讓我們開始這場激發(fā)潛能的AI學(xué)習(xí)之旅吧。

獨家揭秘！智能投顧為何死磕「大小模型協(xié)同」？：

大模型時代，金融行業(yè)依然站在技術(shù)革新的前沿。而在智能投顧這一高度合規(guī)、專業(yè)性極強(qiáng)的場景中，大模型的落地不僅是技術(shù)挑戰(zhàn)，更是業(yè)務(wù)安全的嚴(yán)峻考驗。面對挑戰(zhàn)，北銀金科采用了“大小模型協(xié)同”的架構(gòu)思路，嘗試在性能、準(zhǔn)確性與合規(guī)之間找到更優(yōu)平衡。

“大模型投顧落地的最大技術(shù)挑戰(zhàn)，在于如何在高合規(guī)門檻的業(yè)務(wù)中避免幻覺和誤答?！北便y金科高級算法專家尹辰軒表示，金融業(yè)務(wù)不像通用問答那樣容錯率高，一旦輸出帶有承諾收益或判斷錯誤的內(nèi)容，不僅影響用戶決策，更可能帶來法律風(fēng)險。

在這種背景下，大小模型協(xié)同成為一條更為穩(wěn)妥的路徑。一方面，它限制了大模型的職責(zé)范圍，主要負(fù)責(zé)任務(wù)擴(kuò)寫與流程編排，核心內(nèi)容交由小模型完成；另一方面，也提升了整體的性價比——在更低算力消耗下，實現(xiàn)更穩(wěn)定、深入的回答效果。

展望未來，尹辰軒認(rèn)為，AI 應(yīng)用架構(gòu)會逐漸趨于“語言理解 + 工具調(diào)用”的組合形態(tài)，大小模型協(xié)同也只是更大趨勢的一部分。

關(guān)于“大小模型協(xié)同”的相關(guān)思路及其在金融領(lǐng)域的應(yīng)用情況，尹辰軒近日在接受 InfoQ 采訪時做了簡要闡述。更多實踐細(xì)節(jié)他將在 6 月 27～28 日于北京舉行的 AICon 人工智能開發(fā)與應(yīng)用大會中進(jìn)行系統(tǒng)性分享，敬請期待：https://aicon.infoq.cn/2025/beijing/presentation/6515

InfoQ：在您看來，大模型落地投顧領(lǐng)域最大的技術(shù)挑戰(zhàn)是什么？為什么“大小模型協(xié)同”是一個更現(xiàn)實的解決路徑？

尹辰軒：我認(rèn)為大模型投顧落地的最大技術(shù)挑戰(zhàn)在于如何在高合規(guī)門檻的投顧業(yè)務(wù)中避免幻覺和誤答。

投顧業(yè)務(wù)的合規(guī)門檻高，專業(yè)性強(qiáng)，直接應(yīng)用 L0 級的大模型存在較大的合規(guī)風(fēng)險。很多大模型服務(wù)商本身在此類問題上也為了規(guī)避法律風(fēng)險而泛泛而談。大小模型協(xié)同在這個問題上有兩個優(yōu)勢：

1）限制了大模型回答的范圍

大模型的主要工作不再是產(chǎn)生完整的答案，而是對用戶的問題進(jìn)行擴(kuò)寫、搭建回答框架、分配投顧任務(wù)、實現(xiàn)答案融合，深度的投顧內(nèi)容輸出交給專精小模型來實現(xiàn)，有效降低了幻覺和誤答的概率。

2）提高的大模型在回答深度 / 算力消耗的比率

小模型專精于某個特定用途，具有反應(yīng)快、回答穩(wěn)定的特定，無需大模型再梳理邏輯鏈進(jìn)行更深度的思考，只需要大模型根據(jù)任務(wù)調(diào)用對應(yīng)小模型即可，大大提高回答深度 / 算力消耗的比率。

InfoQ：您提到“大模型與基礎(chǔ)模型解耦”是這套架構(gòu)的亮點，能否簡單透露下談?wù)勊侨绾螌崿F(xiàn)的？這在行業(yè)級應(yīng)用中有怎樣的意義？

尹辰軒： 這套架構(gòu)不是指大模型與基礎(chǔ)模型解耦，基礎(chǔ)模型本身就是大模型，我的意思是，根據(jù) Agent 流程編排，每個環(huán)節(jié)需要的大小模型各自都是解耦的，可快速替換的。

比如在資產(chǎn)配置場景下，對用戶的問題擴(kuò)寫，不必使用諸如 DS671B 這種通用的大參數(shù)模型，可以結(jié)合各類投顧報告或策略研報專訓(xùn)一個 3B 或者 7B 的模型，即可以很快速的根據(jù)資產(chǎn)配置類問題擴(kuò)寫出一套回答框架。在這之后，該框架下即可拆分出不同的投顧任務(wù)，每個投顧任務(wù)要匹配哪個小模型，此時也可以專門訓(xùn)練一個參數(shù)量較小的模型進(jìn)行意圖識別，從而精準(zhǔn)的調(diào)用到對應(yīng)的小模型。

在整個流程中，每個環(huán)節(jié)的小參數(shù) LLM 或傳統(tǒng)小模型都是模塊化可替換的，同時，隨著基礎(chǔ)模型本身的進(jìn)步，這些基于基礎(chǔ)模型專訓(xùn)出來的小模型也會進(jìn)步，從而形成加速成長的效果。

由于 LLM 的更新?lián)Q代非常快，將應(yīng)用全部依賴于基礎(chǔ)模型會導(dǎo)致行業(yè)級應(yīng)用在成長過程中過度依賴基礎(chǔ)模型，且一旦切換基礎(chǔ)模型會導(dǎo)致這些應(yīng)用不穩(wěn)定。將基礎(chǔ)模型與應(yīng)用層進(jìn)行更明細(xì)的解耦，對于應(yīng)用穩(wěn)定性、成長性和私密性都至關(guān)重要。

InfoQ：關(guān)于大模型在金融場景中容易產(chǎn)生幻覺、跑偏回答的顧慮，咱們團(tuán)隊是怎么解決這一問題的？是否有實測效果可以分享？

尹辰軒：主要有三個手段：

在 Agent 流程搭建中，投顧任務(wù)分配環(huán)節(jié)采用大小模型的映射方式，不僅基于一套專精的檢索模型去尋找對應(yīng)的投顧量化模型尋求答案，還要基于詞向量匹配的傳統(tǒng)手段進(jìn)行保底；

在產(chǎn)品設(shè)計中，考慮場景分類，比如將選股、配置、財富體檢、持倉分析等場景區(qū)分開，節(jié)省掉大模型分辨不同場景的環(huán)節(jié)，直接明確調(diào)對應(yīng)的 Agent 要解決什么問題，提高命中率；

通過在知識庫中約束回答范圍、內(nèi)容和黑名單詞匯，避免不合規(guī)的表述，如承諾收益、確定性表達(dá)等。

InfoQ：您提到小模型引擎的“可擴(kuò)展性”是另一大優(yōu)勢。從您的實踐看，這種架構(gòu)是否能支持投顧以外的金融細(xì)分領(lǐng)域，如保險、財富管理等？

尹辰軒：當(dāng)然可以，我們認(rèn)為，小模型不僅僅是投顧小模型，在智能投研領(lǐng)域，復(fù)雜的小模型千千萬萬，我們在 AI 之前的時代積累下來的算法模型仍然具有極大的價值。每個小模型都是獨立解耦的，在特定問題上實現(xiàn)高效、精準(zhǔn)的計算。不過在擴(kuò)展過程中，需要對這個小模型建立特征向量，以便大模型在任務(wù)分配環(huán)節(jié)能夠更為精準(zhǔn)的識別調(diào)用——可擴(kuò)展性的前提是，維護(hù)一套小模型引擎索引。

InfoQ：目前這套方案是否已經(jīng)在實際業(yè)務(wù)中嘗試落地？有沒有讓您印象深刻的使用場景或反饋？

尹辰軒：已經(jīng)在公司內(nèi)部落地，且部分功能已經(jīng)在母行落地。有兩個場景讓我印象比較深刻，一個是算法層面，一個是產(chǎn)品層面。

算法層面，我們對比了大小模型協(xié)同方案的投顧回答、DeepSeek 671B 的回答以及 Qwen72B 的回答，無論是回答深度還是合規(guī)性上，大小模型協(xié)同的方案實現(xiàn)了全量由于 DS 和 Qwen 的回答內(nèi)容。不僅如此，隨著切換基礎(chǔ)模型，大小模型協(xié)同的方案也實現(xiàn)了無縫銜接，能夠基礎(chǔ)模型較差時回答的專業(yè)性保底，切換到更強(qiáng)大的基礎(chǔ)模型后回答的專業(yè)性上限極高。

產(chǎn)品層面，我們認(rèn)為交互模式，我們認(rèn)為，文字、圖片和表格并不是當(dāng)前 AI 在 Chat 體驗下的最優(yōu)實踐。純粹的聊天形式，雖然體現(xiàn)了互動性，但也一定提高了用戶的記憶成本。我們將一些傳統(tǒng)頁面進(jìn)行了改造適配，實現(xiàn)了在聊天過程中用可操作頁面的形式，將更多的信息集中在一個回答中，可以對回答的頁面內(nèi)容進(jìn)行二次操作和互動，這個體驗得到了非常良好的反饋。

InfoQ：面對快速演進(jìn)的大模型生態(tài)，您認(rèn)為未來金融行業(yè)的 AI 應(yīng)用架構(gòu)會走向怎樣的形態(tài)？這場演講最希望為聽眾帶來哪些啟發(fā)？

尹辰軒：我認(rèn)為現(xiàn)在已經(jīng)體現(xiàn)了一種趨勢，即 LLM+API 將實現(xiàn)大模型進(jìn)入所有的互聯(lián)網(wǎng)生態(tài)，Agent 在整個 AI 架構(gòu)的商業(yè)實現(xiàn)上會越來越重要。

大小模型協(xié)同，其實在實際落地中，仍然是 LLM+API。如果僅限于問答，LLM+API 基本上就足夠了，如果再加上操作，那么還需要 LLM+API+RPA。

從歷史的經(jīng)驗上看，人類發(fā)展出的新的技術(shù)絕大多數(shù)情況下并非直接顛覆舊的技術(shù)，而是在舊技術(shù)的齒輪上加上另一個新技術(shù)的齒輪。多模態(tài)的圖片生成會讓 PS 消失嗎？我不這么看，PS 已經(jīng)積累了足夠多的功能，那么與其訓(xùn)練一套和 PS 功能一樣強(qiáng)大的多模態(tài)模型，不如通過 LLM+API+RPA 調(diào)用 PS，這也許是性價比更高的方案。

我認(rèn)為，未來 AI 的架構(gòu)，更多的會是基于大模型本身的語言理解能力將不同的模型或工具通過 API 串起來，作為我們?nèi)祟惖牧硪粋€身外大腦，為我們服務(wù)。

嘿，伙伴們，今天我們的AI探索之旅已經(jīng)圓滿結(jié)束。關(guān)于“獨家揭秘！智能投顧為何死磕「大小模型協(xié)同」？”的內(nèi)容已經(jīng)分享給大家了。感謝你們的陪伴，希望這次旅程讓你對AI能夠更了解、更喜歡。謹(jǐn)記，精準(zhǔn)提問是解鎖AI潛能的鑰匙哦！如果有小伙伴想要了解學(xué)習(xí)更多的AI知識，請關(guān)注我們的官網(wǎng)“AI智研社”，保證讓你收獲滿滿呦！