哈嘍！伙伴們，我是小智，你們的AI向?qū)?。歡迎來到每日的AI學(xué)習(xí)時間。今天，我們將一起深入AI的奇妙世界，探索“面向開發(fā)者的LLM入門課程-路由鏈”，并學(xué)會本篇文章中所講的全部知識點。還是那句話“不必遠(yuǎn)征未知，只需喚醒你的潛能！”跟著小智的步伐，我們終將學(xué)有所成，學(xué)以致用，并發(fā)現(xiàn)自身的更多可能性。話不多說，現(xiàn)在就讓我們開始這場激發(fā)潛能的AI學(xué)習(xí)之旅吧。

面向開發(fā)者的LLM入門課程-路由鏈：

路由鏈

到目前為止，我們已經(jīng)學(xué)習(xí)了大語言模型鏈和順序鏈。但是，如果我們想做一些更復(fù)雜的事情怎么辦？一個相當(dāng)常見但基本的操作是根據(jù)輸入將其路由到一條鏈，具體取決于該輸入到底是什么。如果你有多個子鏈，每個子鏈都專門用于特定類型的輸入，那么可以組成一個路由鏈，它首先決定將它傳遞給哪個子鏈，然后將它傳遞給那個鏈。

路由器由兩個組件組成：
· 路由鏈（Router Chain）：路由器鏈本身，負(fù)責(zé)選擇要調(diào)用的下一個鏈
· destination_chains：路由器鏈可以路由到的鏈
舉一個具體的例子，讓我們看一下我們在不同類型的鏈之間路由的地方，我們在這里有不同的prompt:

from langchain.chains.router import MultiPromptChain #導(dǎo)入多提示鏈
from langchain.chains.router.llm_router import LLMRouterChain,RouterOutputParser
from langchain.prompts import PromptTemplate
llm = ChatOpenAI(temperature=0)

1.定義提示模板

首先，我們定義提示適用于不同場景下的提示模板。

# 中文
#第一個提示適合回答物理問題
physics_template = “””你是一個非常聰明的物理專家。
你擅長用一種簡潔并且易于理解的方式去回答問題。
當(dāng)你不知道問題的答案時，你承認(rèn)
你不知道.
這是一個問題:
{input}”””
#第二個提示適合回答數(shù)學(xué)問題
math_template = “””你是一個非常優(yōu)秀的數(shù)學(xué)家。
你擅長回答數(shù)學(xué)問題。
你之所以如此優(yōu)秀，
是因為你能夠?qū)⒓值膯栴}分解為組成部分，
回答組成部分，然后將它們組合在一起，回答更廣泛的問題。
這是一個問題：
{input}”””
#第三個適合回答歷史問題
history_template = “””你是以為非常優(yōu)秀的歷史學(xué)家。
你對一系列歷史時期的人物、事件和背景有著極好的學(xué)識和理解
你有能力思考、反思、辯證、討論和評估過去。
你尊重歷史證據(jù)，并有能力利用它來支持你的解釋和判斷。
這是一個問題:
{input}”””
#第四個適合回答計算機(jī)問題
computerscience_template = “”” 你是一個成功的計算機(jī)科學(xué)專家。
你有創(chuàng)造力、協(xié)作精神、
前瞻性思維、自信、解決問題的能力、
對理論和算法的理解以及出色的溝通技巧。
你非常擅長回答編程問題。
你之所以如此優(yōu)秀，是因為你知道
如何通過以機(jī)器可以輕松解釋的命令式步驟描述解決方案來解決問題，
并且你知道如何選擇在時間復(fù)雜性和空間復(fù)雜性之間取得良好平衡的解決方案。
這還是一個輸入：
{input}”””

2.對提示模版進(jìn)行命名和描述

在定義了這些提示模板后，我們可以為每個模板命名，并給出具體描述。例如，第一個物理學(xué)的描述適合回答關(guān)于物理學(xué)的問題，這些信息將傳遞給路由鏈，然后由路由鏈決定何時使用此子鏈。

# 中文
prompt_infos = [
{
“名字”: “物理學(xué)”,
“描述”: “擅長回答關(guān)于物理學(xué)的問題”,
“提示模板”: physics_template
},
{
“名字”: “數(shù)學(xué)”,
“描述”: “擅長回答數(shù)學(xué)問題”,
“提示模板”: math_template
},
{
“名字”: “歷史”,
“描述”: “擅長回答歷史問題”,
“提示模板”: history_template
},
{
“名字”: “計算機(jī)科學(xué)”,
“描述”: “擅長回答計算機(jī)科學(xué)問題”,
“提示模板”: computerscience_template
}
]

LLMRouterChain（此鏈?zhǔn)褂?LLM 來確定如何路由事物）

在這里，我們需要一個多提示鏈。這是一種特定類型的鏈，用于在多個不同的提示模板之間進(jìn)行路由。但是這只是路由的一種類型，我們也可以在任何類型的鏈之間進(jìn)行路由。

這里我們要實現(xiàn)的幾個類是大模型路由器鏈。這個類本身使用語言模型來在不同的子鏈之間進(jìn)行路由。這就是上面提供的描述和名稱將被使用的地方。

3.基于提示模版信息創(chuàng)建相應(yīng)目標(biāo)鏈

目標(biāo)鏈?zhǔn)怯陕酚涉溦{(diào)用的鏈，每個目標(biāo)鏈都是一個語言模型鏈

destination_chains = {}
for p_info in prompt_infos:
name = p_info[“名字”]
prompt_template = p_info[“提示模板”]
prompt = ChatPromptTemplate.from_template(template=prompt_template)
chain = LLMChain(llm=llm, prompt=prompt)
destination_chains[name] = chain
destinations = [f”{p[‘名字’]}: {p[‘描述’]}” for p in prompt_infos]
destinations_str = “n”.join(destinations)

4.創(chuàng)建默認(rèn)目標(biāo)鏈

除了目標(biāo)鏈之外，我們還需要一個默認(rèn)目標(biāo)鏈。這是一個當(dāng)路由器無法決定使用哪個子鏈時調(diào)用的鏈。
在上面的示例中，當(dāng)輸入問題與物理、數(shù)學(xué)、歷史或計算機(jī)科學(xué)無關(guān)時，可能會調(diào)用它。

default_prompt = ChatPromptTemplate.from_template(“{input}”)
default_chain = LLMChain(llm=llm, prompt=default_prompt)

5.定義不同鏈之間的路由模板

這包括要完成的任務(wù)的說明以及輸出應(yīng)該采用的特定格式。
注意：此處在原教程的基礎(chǔ)上添加了一個示例，主要是因為”gpt-3.5-turbo”模型不能很好適應(yīng)理解模板
的意思，使用 “text-davinci-003” 或者”gpt-4-0613″可以很好的工作，因此在這里多加了示例提示讓其更
好的學(xué)習(xí)。
例如:
<< INPUT >>
“What is black body radiation?”
<< OUTPUT >>

{{{{
“destination”: string name of the prompt to use or “DEFAULT”
“next_inputs”: string a potentially modified version of the original input
}}}}

# 多提示路由模板
MULTI_PROMPT_ROUTER_TEMPLATE = “””給語言模型一個原始文本輸入，
讓其選擇最適合輸入的模型提示。
系統(tǒng)將為您提供可用提示的名稱以及最適合改提示的描述。
如果你認(rèn)為修改原始輸入最終會導(dǎo)致語言模型做出更好的響應(yīng)，
你也可以修改原始輸入。
<< 格式 >>
返回一個帶有JSON對象的markdown代碼片段，該JSON對象的格式如下：
“`json
{{{{
“destination”: 字符串 使用的提示名字或者使用 “DEFAULT”
“next_inputs”: 字符串 原始輸入的改進(jìn)版本
}}}}
記?。骸癲estination”必須是下面指定的候選提示名稱之一，
或者如果輸入不太適合任何候選提示，
則可以是 “DEFAULT” 。
記?。喝绻J(rèn)為不需要任何修改，
則 “next_inputs” 可以只是原始輸入。
<< 候選提示 >>
{destinations}
<< 輸入 >>
{{input}}
<< 輸出 (記得要包含 ```json)>>
樣例:
<< 輸入 >>
“什么是黑體輻射?”
<< 輸出 >>
“`json
{{{{
“destination”: 字符串 使用的提示名字或者使用 “DEFAULT”
“next_inputs”: 字符串 原始輸入的改進(jìn)版本
}}}}
“””

6.構(gòu)建路由鏈

首先，我們通過格式化上面定義的目標(biāo)創(chuàng)建完整的路由器模板。這個模板可以適用許多不同類型的目標(biāo)。

因此，在這里，您可以添加一個不同的學(xué)科，如英語或拉丁語，而不僅僅是物理、數(shù)學(xué)、歷史和計算機(jī)科學(xué)。

接下來，我們從這個模板創(chuàng)建提示模板。

最后，通過傳入llm和整個路由提示來創(chuàng)建路由鏈。需要注意的是這里有路由輸出解析，這很重要，因為它將幫助這個鏈路決定在哪些子鏈路之間進(jìn)行路由。

router_template = MULTI_PROMPT_ROUTER_TEMPLATE.format(
destinations=destinations_str
)
router_prompt = PromptTemplate(
template=router_template,
input_variables=[“input”],
output_parser=RouterOutputParser(),
)
router_chain = LLMRouterChain.from_llm(llm, router_prompt)

7.創(chuàng)建整體鏈路

#多提示鏈
chain = MultiPromptChain(router_chain=router_chain, #l路由鏈路
destination_chains=destination_chains, #目標(biāo)鏈路
default_chain=default_chain, #默認(rèn)鏈路
verbose=True
)

8.進(jìn)行提問

如果我們問一個物理問題，我們希望看到他被路由到物理鏈路。

chain.run(“什么是黑體輻射？”)

> Entering new MultiPromptChain chain…
物理學(xué): {‘input’: ‘什么是黑體輻射？’}
> Finished chain.

‘黑體輻射是指一個理想化的物體，它能夠完全吸收并且以最高效率地輻射出所有入射到它上面的電磁輻射。這
種輻射的特點是它的輻射強(qiáng)度與波長有關(guān)，且在不同波長下的輻射強(qiáng)度符合普朗克輻射定律。黑體輻射在物理學(xué)
中有廣泛的應(yīng)用，例如研究熱力學(xué)、量子力學(xué)和宇宙學(xué)等領(lǐng)域。’

如果我們問一個數(shù)學(xué)問題，我們希望看到他被路由到數(shù)學(xué)鏈路。

chain.run(“2+2等于多少？”)

> Entering new MultiPromptChain chain…
數(shù)學(xué): {‘input’: ‘2+2等于多少？’}
> Finished chain.

‘2+2等于4。’

如果我們傳遞一個與任何子鏈路都無關(guān)的問題時，會發(fā)生什么呢？

這里，我們問了一個關(guān)于生物學(xué)的問題，我們可以看到它選擇的鏈路是無。這意味著它將被傳遞到默認(rèn)鏈路，它本身只是對語言模型的通用調(diào)用。語言模型幸運(yùn)地對生物學(xué)知道很多，所以它可以幫助我們。

chain.run(“為什么我們身體里的每個細(xì)胞都包含DNA？”)

> Entering new MultiPromptChain chain…
物理學(xué): {‘input’: ‘為什么我們身體里的每個細(xì)胞都包含DNA？’}
> Finished chain.

‘我們身體里的每個細(xì)胞都包含DNA，因為DNA是遺傳信息的載體。DNA是由四種堿基（腺嘌呤、胸腺嘧啶、鳥嘌
呤和胞嘧啶）組成的長鏈狀分子，它存儲了我們的遺傳信息，包括我們的基因和遺傳特征。每個細(xì)胞都需要這些
遺傳信息來執(zhí)行其特定的功能和任務(wù)。所以，DNA存在于每個細(xì)胞中，以確保我們的身體正常運(yùn)作。’

嘿，伙伴們，今天我們的AI探索之旅已經(jīng)圓滿結(jié)束。關(guān)于“面向開發(fā)者的LLM入門課程-路由鏈”的內(nèi)容已經(jīng)分享給大家了。感謝你們的陪伴，希望這次旅程讓你對AI能夠更了解、更喜歡。謹(jǐn)記，精準(zhǔn)提問是解鎖AI潛能的鑰匙哦！如果有小伙伴想要了解學(xué)習(xí)更多的AI知識，請關(guān)注我們的官網(wǎng)“AI智研社”，保證讓你收獲滿滿呦！