哈嘍！伙伴們，我是小智，你們的AI向?qū)Аg迎來到每日的AI學(xué)習(xí)時間。今天，我們將一起深入AI的奇妙世界，探索“面向開發(fā)者的LLM入門課程-通過LangChain使用OpenAI”，并學(xué)會本篇文章中所講的全部知識點。還是那句話“不必遠(yuǎn)征未知，只需喚醒你的潛能！”跟著小智的步伐，我們終將學(xué)有所成，學(xué)以致用，并發(fā)現(xiàn)自身的更多可能性。話不多說，現(xiàn)在就讓我們開始這場激發(fā)潛能的AI學(xué)習(xí)之旅吧。

面向開發(fā)者的LLM入門課程-通過LangChain使用OpenAI：

通過LangChain使用OpenAI

在前面的教程中，我們使用了封裝好的函數(shù) get_completion ，利用 OpenAI 接口成功地對那封充滿方言特色的郵件進行了翻譯。得到一封采用平和且尊重的語氣、并用標(biāo)準(zhǔn)普通話所寫的郵件。接下來，我們將嘗試使用 LangChain 解決該問題。

1.模型

現(xiàn)在讓我們嘗試使用LangChain來實現(xiàn)相同的功能。從 langchain.chat_models 導(dǎo)入 OpenAI 的對話模型ChatOpenAI 。 除去OpenAI以外， langchain.chat_models 還集成了其他對話模型，更多細(xì)節(jié)可以查看 Langchain 官方文檔(https://python.langchain.com/en/latest/modules/models/chat/integrations.html)。

from langchain.chat_models import ChatOpenAI
# 這里我們將參數(shù)temperature設(shè)置為0.0，從而減少生成答案的隨機性。
# 如果你想要每次得到不一樣的有新意的答案，可以嘗試調(diào)整該參數(shù)。
chat = ChatOpenAI(temperature=0.0)
chat

ChatOpenAI(cache=None, verbose=False, callbacks=None, callback_manager=None, tags=None,
metadata=None, client=,
model_name=’gpt-3.5-turbo’, temperature=0.0, model_kwargs={}, openai_api_key=’skIBJfPyi4LiaSSiYxEB2wT3BlbkFJjfw8KCwmJez49eVF1O1b’, openai_api_base=”, openai_organization=”,
openai_proxy=”, request_timeout=None, max_retries=6, streaming=False, n=1, max_tokens=None,
tiktoken_model_name=None)

上面的輸出顯示ChatOpenAI的默認(rèn)模型為 gpt-3.5-turb

2.使用提示模版

在前面的例子中，我們通過f字符串把Python表達(dá)式的值 style 和 customer_email 添加到 prompt 字符串內(nèi)。

langchain 提供了接口方便快速的構(gòu)造和使用提示。

用普通話表達(dá)海盜郵件

現(xiàn)在我們來看看如何使用 langchain 來構(gòu)造提示吧！

from langchain.prompts import ChatPromptTemplate
# 首先，構(gòu)造一個提示模版字符串：`template_string`
template_string = “””把由三個反引號分隔的文本
翻譯成一種{style}風(fēng)格。
文本: “`{text}“`
“””
# 然后，我們調(diào)用`ChatPromptTemplatee.from_template()`函數(shù)將
# 上面的提示模版字符`template_string`轉(zhuǎn)換為提示模版`prompt_template`
prompt_template = ChatPromptTemplate.from_template(template_string)
print(“n”, prompt_template.messages[0].prompt)

input_variables=[‘style’, ‘text’] output_parser=None partial_variables={} template=’把由三個反
引號分隔的文本翻譯成一種{style}風(fēng)格。文本: “`{text}“`n’ template_format=’f-string’
validate_template=True

對于給定的 customer_style 和 customer_email , 我們可以使用提示模版 prompt_template 的 format_messages 方法生成想要的客戶消息 customer_messages 。

提示模版 prompt_template 需要兩個輸入變量： style 和 text 。 這里分別對應(yīng):
· customer_style : 我們想要的顧客郵件風(fēng)格
· customer_email : 顧客的原始郵件文本。

customer_style = “””正式普通話
用一個平靜、尊敬的語氣
“””
customer_email = “””
嗯吶，我現(xiàn)在可是火冒三丈，我那個攪拌機蓋子竟然飛了出去，把我廚房的墻壁都濺上了果汁！
更糟糕的是，保修條款可不包括清理我廚房的費用。
伙計，趕緊給我過來！
“””
# 使用提示模版
customer_messages = prompt_template.format_messages(
style=customer_style,
text=customer_email)
# 打印客戶消息類型
print(“客戶消息類型:”,type(customer_messages),”n”)
# 打印第一個客戶消息類型
print(“第一個客戶客戶消息類型類型:”, type(customer_messages[0]),”n”)
# 打印第一個元素
print(“第一個客戶客戶消息類型類型: “, customer_messages[0],”n”)

客戶消息類型:

第一個客戶客戶消息類型類型:

第一個客戶客戶消息類型類型:
content=’把由三個反引號分隔的文本翻譯成一種正式普通話 用一個平靜、尊敬的語氣n風(fēng)格。文本: “`n嗯吶，我現(xiàn)在
可是火冒三丈，我那個攪拌機蓋子竟然飛了出去，把我廚房的墻壁都濺上了果汁！n更糟糕的是，保修條款可不包括清理我廚房
的費用。n伙計，趕緊給我過來！n“`n’ additional_kwargs={} example=False

可以看出
· customer_messages 變量類型為列表( list )
· 列表里的元素變量類型為langchain自定義消息( langchain.schema.HumanMessage )。
現(xiàn)在我們可以調(diào)用模型部分定義的 chat 模型來實現(xiàn)轉(zhuǎn)換客戶消息風(fēng)格。

customer_response = chat(customer_messages)
print(customer_response.content)

非常抱歉，我現(xiàn)在感到非常憤怒。我的攪拌機蓋子竟然飛了出去，導(dǎo)致我廚房的墻壁上都濺滿了果汁！更糟糕的是，保修條款并不包括清理我廚房的費用?；镉嫞埬惚M快過來幫我解決這個問題！

用海盜方言回復(fù)郵件

到目前為止，我們已經(jīng)實現(xiàn)了在前一部分的任務(wù)。接下來，我們更進一步，將客服人員回復(fù)的消息，轉(zhuǎn)換為海盜風(fēng)格英語，并確保消息比較有禮貌。 這里，我們可以繼續(xù)使用起前面構(gòu)造的的langchain提示模版，來獲得我們回復(fù)消息提示。

service_reply = “””嘿，顧客，
保修不包括廚房的清潔費用，
因為您在啟動攪拌機之前
忘記蓋上蓋子而誤用攪拌機,
這是您的錯。
倒霉！ 再見！
“””
service_style_pirate = “””
一個有禮貌的語氣
使用海盜風(fēng)格
“””
service_messages = prompt_template.format_messages(
style=service_style_pirate,
text=service_reply)
print(“n”, service_messages[0].content)

把由三個反引號分隔的文本翻譯成一種一個有禮貌的語氣 使用海盜風(fēng)格風(fēng)格。文本: “`嘿，顧客， 保修不包括廚房的清潔費用， 因為您在啟動攪拌機之前 忘記蓋上蓋子而誤用攪拌機, 這是您的錯。 倒霉！ 再見！“`

# 調(diào)用模型部分定義的chat模型來轉(zhuǎn)換回復(fù)消息風(fēng)格
service_response = chat(service_messages)
print(service_response.content)

嘿，尊貴的客戶啊，保修可不包括廚房的清潔費用，因為您在啟動攪拌機之前竟然忘記蓋上蓋子而誤用了攪拌機，這可是您的疏忽之過啊。真是倒霉透頂?。∽Ｄ宦讽橈L(fēng)

為什么需要提示模版

在應(yīng)用于比較復(fù)雜的場景時，提示可能會非常長并且包含涉及許多細(xì)節(jié)。使用提示模版，可以讓我們更為方便地重復(fù)使用設(shè)計好的提示。英文版提示2.2.3 給出了作業(yè)的提示模版案例：學(xué)生們線上學(xué)習(xí)并提交作業(yè)，通過提示來實現(xiàn)對學(xué)生的提交的作業(yè)的評分。

此外，LangChain還提供了提示模版用于一些常用場景。比如自動摘要、問答、連接到SQL數(shù)據(jù)庫、連接到不同的API。通過使用LangChain內(nèi)置的提示模版，你可以快速建立自己的大模型應(yīng)用，而不需要花時間去設(shè)計和構(gòu)造提示。

最后，我們在建立大模型應(yīng)用時，通常希望模型的輸出為給定的格式，比如在輸出使用特定的關(guān)鍵詞來讓輸出結(jié)構(gòu)化。英文版提示2.2.3 給出了使用大模型進行鏈?zhǔn)剿伎纪评斫Y(jié)果示例 — 對于問題：What is the elevation range for the area that the eastern sector of the Colorado orogeny extends into? 通過使用LangChain庫函數(shù)，輸出采用”Thought”（思考）、”Action”（行動）、”Observation”（觀察）作為鏈?zhǔn)剿伎纪评淼年P(guān)鍵詞，讓輸出結(jié)構(gòu)化。

3.輸出解析器

1.不使用輸出解釋器提取客戶評價中的信息

對于給定的評價 customer_review , 我們希望提取信息，并按以下格式輸出：

{
“gift”: False,
“delivery_days”: 5,
“price_value”: “pretty affordable!”
}

from langchain.prompts import ChatPromptTemplate
customer_review = “””
這款吹葉機非常神奇。 它有四個設(shè)置：
吹蠟燭、微風(fēng)、風(fēng)城、龍卷風(fēng)。
兩天后就到了，正好趕上我妻子的
周年紀(jì)念禮物。
我想我的妻子會喜歡它到說不出話來。
到目前為止，我是唯一一個使用它的人，而且我一直
每隔一天早上用它來清理草坪上的葉子。
它比其他吹葉機稍微貴一點，
但我認(rèn)為它的額外功能是值得的。
“””
review_template = “””
對于以下文本，請從中提取以下信息：
禮物：該商品是作為禮物送給別人的嗎？
如果是，則回答 是的；如果否或未知，則回答 不是。
交貨天數(shù)：產(chǎn)品需要多少天
到達(dá)？ 如果沒有找到該信息，則輸出-1。
價錢：提取有關(guān)價值或價格的任何句子，
并將它們輸出為逗號分隔的 Python 列表。
使用以下鍵將輸出格式化為 JSON：
禮物
交貨天數(shù)
價錢
文本: {text}
“””
prompt_template = ChatPromptTemplate.from_template(review_template)
print(“提示模版：”, prompt_template)
messages = prompt_template.format_messages(text=customer_review)
chat = ChatOpenAI(temperature=0.0)
response = chat(messages)
print(“結(jié)果類型:”, type(response.content))
print(“結(jié)果:”, response.content)

提示模版：
input_variables=[‘text’] output_parser=None partial_variables={} messages=
[HumanMessagePromptTemplate(prompt=PromptTemplate(input_variables=[‘text’],
output_parser=None, partial_variables={}, template=’對于以下文本，請從中提取以下信息：nn禮物：該商品
是作為禮物送給別人的嗎？ 如果是，則回答 是的；如果否或未知，則回答 不是。nn交貨天數(shù)：產(chǎn)品需要多少天到達(dá)？ 如果
沒有找到該信息，則輸出-1。nn價錢：提取有關(guān)價值或價格的任何句子，并將它們輸出為逗號分隔的 Python 列表。nn使
用以下鍵將輸出格式化為 JSON：n禮物n交貨天數(shù)n價錢nn文本: {text}n’, template_format=’f-string’,
validate_template=True), additional_kwargs={})]
結(jié)果類型:

結(jié)果:
{
“禮物”: “是的”,
“交貨天數(shù)”: 2,
“價錢”: [“它比其他吹葉機稍微貴一點”]

可以看出 response.content 類型為字符串（ str ），而并非字典( dict ), 如果想要從中更方便的提取信息，我們需要使用 Langchain 中的輸出解釋器。

2.使用輸出解析器提取客戶評價中的信息

接下來，我們將展示如何使用輸出解釋器。

review_template_2 = “””
對于以下文本，請從中提取以下信息：：
禮物：該商品是作為禮物送給別人的嗎？
如果是，則回答 是的；如果否或未知，則回答 不是。
交貨天數(shù)：產(chǎn)品到達(dá)需要多少天？ 如果沒有找到該信息，則輸出-1。
價錢：提取有關(guān)價值或價格的任何句子，并將它們輸出為逗號分隔的 Python 列表。
文本: {text}
{format_instructions}
“””
prompt = ChatPromptTemplate.from_template(template=review_template_2)
from langchain.output_parsers import ResponseSchema
from langchain.output_parsers import StructuredOutputParser
gift_schema = ResponseSchema(name=”禮物”,
description=”這件物品是作為禮物送給別人的嗎？
如果是，則回答 是的，
如果否或未知，則回答 不是。”)
delivery_days_schema = ResponseSchema(name=”交貨天數(shù)”,
description=”產(chǎn)品需要多少天才能到達(dá)？
如果沒有找到該信息，則輸出-1。”)
price_value_schema = ResponseSchema(name=”價錢”,
description=”提取有關(guān)價值或價格的任何句子，
并將它們輸出為逗號分隔的 Python 列表”)
response_schemas = [gift_schema,
delivery_days_schema,
price_value_schema]
output_parser = StructuredOutputParser.from_response_schemas(response_schemas)
format_instructions = output_parser.get_format_instructions()
print(“輸出格式規(guī)定：”,format_instructions)

輸出格式規(guī)定：
The output should be a markdown code snippet formatted in the following schema, including the
leading and trailing ““`json” and ““`”:
“`json
{
“禮物”: string // 這件物品是作為禮物送給別人的嗎？ 如果是，則回答 是的，
如果否或未知，則回答 不是。
“交貨天數(shù)”: string // 產(chǎn)品需要多少天才能到達(dá)？ 如果沒有找到
該信息，則輸出-1。
“價錢”: string // 提取有關(guān)價值或價格的任何句子， 并將它們輸出
為逗號分隔的 Python 列表
}
“`

messages = prompt.format_messages(text=customer_review,
format_instructions=format_instructions)
print(“第一條客戶消息:”,messages[0].content)

第一條客戶消息:
對于以下文本，請從中提取以下信息：：
禮物：該商品是作為禮物送給別人的嗎？
如果是，則回答 是的；如果否或未知，則回答 不是。
交貨天數(shù)：產(chǎn)品到達(dá)需要多少天？ 如果沒有找到該信息，則輸出-1。
價錢：提取有關(guān)價值或價格的任何句子，并將它們輸出為逗號分隔的 Python 列表。
文本: 這款吹葉機非常神奇。 它有四個設(shè)置：吹蠟燭、微風(fēng)、風(fēng)城、龍卷風(fēng)。 兩天后就到了，正好趕上我妻子的周年紀(jì)念禮
物。 我想我的妻子會喜歡它到說不出話來。 到目前為止，我是唯一一個使用它的人，而且我一直每隔一天早上用它來清理草坪
上的葉子。 它比其他吹葉機稍微貴一點，但我認(rèn)為它的額外功能是值得的。
The output should be a markdown code snippet formatted in the following schema, including the
leading and trailing ““`json” and ““`”:
“`json
{
“禮物”: string // 這件物品是作為禮物送給別人的嗎？ 如果是，則回答 是的，
如果否或未知，則回答 不是。
“交貨天數(shù)”: string // 產(chǎn)品需要多少天才能到達(dá)？ 如果沒有找到
該信息，則輸出-1。
“價錢”: string // 提取有關(guān)價值或價格的任何句子， 并將它們輸出
為逗號分隔的 Python 列表
}
“`

response = chat(messages)
print(“結(jié)果類型:”, type(response.content))
print(“結(jié)果:”, response.content)

結(jié)果類型:

結(jié)果:
“`json
{
“禮物”: “不是”,
“交貨天數(shù)”: “兩天后就到了”,
“價錢”: “它比其他吹葉機稍微貴一點”
}
“`

output_dict = output_parser.parse(response.content)
print(“解析后的結(jié)果類型:”, type(output_dict))
print(“解析后的結(jié)果:”, output_dict)

解析后的結(jié)果類型:

解析后的結(jié)果:
{‘禮物’: ‘不是’, ‘交貨天數(shù)’: ‘兩天后就到了’, ‘價錢’: ‘它比其他吹葉機稍微貴一點’}

output_dict 類型為字典( dict ), 可直接使用 get 方法。這樣的輸出更方便下游任務(wù)的處理。

嘿，伙伴們，今天我們的AI探索之旅已經(jīng)圓滿結(jié)束。關(guān)于“面向開發(fā)者的LLM入門課程-通過LangChain使用OpenAI”的內(nèi)容已經(jīng)分享給大家了。感謝你們的陪伴，希望這次旅程讓你對AI能夠更了解、更喜歡。謹(jǐn)記，精準(zhǔn)提問是解鎖AI潛能的鑰匙哦！如果有小伙伴想要了解學(xué)習(xí)更多的AI知識，請關(guān)注我們的官網(wǎng)“AI智研社”，保證讓你收獲滿滿呦！