我為什么放棄了 LangChain？（1）

「LangChain 的流行已經(jīng)扭曲了圍繞其本身的人工智能創(chuàng)業(yè)生態(tài)系統(tǒng)，這就是為什么我不得不坦誠(chéng)自己對(duì)它的疑慮?！?/span>

如果你關(guān)注了過(guò)去幾個(gè)月中人工智能的爆炸式發(fā)展，那你大概率聽(tīng)說(shuō)過(guò) LangChain。

簡(jiǎn)單來(lái)說(shuō)，LangChain 是一個(gè) Python 和 JavaScript 庫(kù)，由 Harrison Chase 開(kāi)發(fā)，用于連接 OpenAI 的 GPT API（后續(xù)已擴(kuò)展到更多模型）以生成人工智能文本。
更具體地說(shuō)，它是論文《ReAct: Synergizing Reasoning and Acting in Language Models》的實(shí)現(xiàn)：該論文展示了一種提示技術(shù)，允許模型「推理」（通過(guò)思維鏈）和「行動(dòng)」（通過(guò)能夠使用預(yù)定義工具集中的工具，例如能夠搜索互聯(lián)網(wǎng)）。

論文鏈接：https://arxiv.org/pdf/2210.03629.pdf
事實(shí)證明，這種組合能夠大幅提高輸出文本的質(zhì)量，并使大型語(yǔ)言模型具備正確解決問(wèn)題的能力。
2023 年 3 月，ChatGPT 的 API 因升級(jí)降價(jià)大受歡迎，LangChain 的使用也隨之爆炸式增長(zhǎng)。
這之后，LangChain 在沒(méi)有任何收入也沒(méi)有任何明顯的創(chuàng)收計(jì)劃的情況下，獲得了 1000 萬(wàn)美元的種子輪融資和 2000-2500 萬(wàn)美元的 A 輪融資，估值達(dá)到 2 億美元左右。
ReAct 論文中的 ReAct 流示例。

由 LangChain 推廣的 ReAct 工作流在 InstructGPT/text-davinci-003 中特別有效，但成本很高，而且對(duì)于小型項(xiàng)目來(lái)說(shuō)并不容易使用。
Max Woolf 是一位 BuzzFeed 的數(shù)據(jù)科學(xué)家。他也使用過(guò) LangChain，這次經(jīng)歷總體來(lái)說(shuō)不太好。
讓我們看看他經(jīng)歷了什么。
「是只有我不會(huì)用嗎？」
在 BuzzFeed 工作時(shí)，我有一個(gè)任務(wù)是為 Tasty 品牌創(chuàng)建一個(gè)基于 ChatGPT 的聊天機(jī)器人（后來(lái)在 Tasty iOS 應(yīng)用中發(fā)布為 Botatouille），可以與用戶聊天并提供相關(guān)食譜。
具體來(lái)說(shuō)，源菜譜將被轉(zhuǎn)換為嵌入式菜譜并保存在一個(gè)向量存儲(chǔ)中：例如如果用戶詢問(wèn)「健康食品」，查詢會(huì)被轉(zhuǎn)換為嵌入式菜譜，然后執(zhí)行近似最近鄰搜索以找到與嵌入式查詢相似的菜譜，然后將其作為附加上下文提供給 ChatGPT，再由 ChatGPT 顯示給用戶。這種方法通常被稱為檢索增強(qiáng)生成。

使用檢索增強(qiáng)生成的聊天機(jī)器人的架構(gòu)示例。

「LangChain 是 RAG 最受歡迎的工具，所以我想這是學(xué)習(xí)它的最佳時(shí)機(jī)。我花了一些時(shí)間閱讀 LangChain 的全面文檔，以便更好地理解如何最好地利用它?！?/span>

經(jīng)過(guò)一周的研究，我一無(wú)所獲。運(yùn)行 LangChain 的 demo 示例確實(shí)可以工作，但是任何調(diào)整它們以適應(yīng)食譜聊天機(jī)器人約束的嘗試都會(huì)失敗。在解決了這些 bug 之后，聊天對(duì)話的整體質(zhì)量很差，而且毫無(wú)趣味。經(jīng)過(guò)緊張的調(diào)試之后，我沒(méi)有找到任何解決方案。
總而言之，我遇到了生存危機(jī)：當(dāng)很多其他 ML 工程師都能搞懂 LangChain 時(shí)，我卻搞不懂，難道我是一個(gè)毫無(wú)價(jià)值的機(jī)器學(xué)習(xí)工程師嗎？
我用回了低級(jí)別的 ReAct 流程，它立即在對(duì)話質(zhì)量和準(zhǔn)確性上超過(guò)了我的 LangChain 實(shí)現(xiàn)。
浪費(fèi)了一個(gè)月的時(shí)間來(lái)學(xué)習(xí)和測(cè)試 LangChain，我的這種生存危機(jī)在看到 Hacker News 關(guān)于有人用 100 行代碼重現(xiàn) LangChain 的帖子后得到了緩解，大部分評(píng)論都在發(fā)泄對(duì) LangChain 的不滿：

LangChain 的問(wèn)題在于它讓簡(jiǎn)單的事情變得相對(duì)復(fù)雜，而這種不必要的復(fù)雜性造成了一種「部落主義」，損害了整個(gè)新興的人工智能生態(tài)系統(tǒng)。
所以，如果你是一個(gè)只想學(xué)習(xí)如何使用 ChatGPT 的新手，絕對(duì)不要從 LangChain 開(kāi)始。
LangChain 的「Hello World」

LangChain 的快速入門(mén)，從一個(gè)關(guān)于如何通過(guò) Python 與 LLM/ChatGPT 進(jìn)行簡(jiǎn)單交互的迷你教程開(kāi)始。例如，創(chuàng)建一個(gè)可以將英語(yǔ)翻譯成法語(yǔ)的機(jī)器人：

from langchain.chat_models import ChatOpenAIfrom langchain.schema import (    AIMessage,    HumanMessage,    SystemMessage)
chat = ChatOpenAI(temperature=0)chat.predict_messages([HumanMessage(content="Translate this sentence from English to French. I love programming.")])# AIMessage(content="J'adore la programmation.", additional_kwargs={}, example=False)

import openai
messages = [{"role": "user", "content": "Translate this sentence from English to French. I love programming."}]
response = openai.ChatCompletion.create(model="gpt-3.5-turbo", messages=messages, temperature=0)response["choices"][0]["message"]["content"]# "J'adore la programmation."

from langchain.prompts.chat import (    ChatPromptTemplate,    SystemMessagePromptTemplate,    HumanMessagePromptTemplate,)
template = "You are a helpful assistant that translates {input_language} to {output_language}."system_message_prompt = SystemMessagePromptTemplate.from_template(template)human_template = "{text}"human_message_prompt = HumanMessagePromptTemplate.from_template(human_template)
chat_prompt = ChatPromptTemplate.from_messages([system_message_prompt, human_message_prompt])
chat_prompt.format_messages(input_language="English", output_language="French", text="I love programming.")

from langchain.agents import load_toolsfrom langchain.agents import initialize_agentfrom langchain.agents import AgentTypefrom langchain.chat_models import ChatOpenAIfrom langchain.llms import OpenAI
# First, let's load the language model we're going to use to control the agent.chat = ChatOpenAI(temperature=0)
# Next, let's load some tools to use. Note that the `llm-math` tool uses an LLM, so we need to pass that in.llm = OpenAI(temperature=0)tools = load_tools(["serpapi", "llm-math"], llm=llm)
# Finally, let's initialize an agent with the tools, the language model, and the type of agent we want to use.agent = initialize_agent(tools, chat, agent=AgentType.CHAT_ZERO_SHOT_REACT_DESCRIPTION, verbose=True)
# Now let's test it out!agent.run("Who is Olivia Wilde's boyfriend? What is his current age raised to the 0.23 power?")

> Entering new AgentExecutor chain...Thought: I need to use a search engine to find Olivia Wilde's boyfriend and a calculator to raise his age to the 0.23 power.Action:{    "action": "Search",    "action_input": "Olivia Wilde boyfriend"}
Observation: Sudeikis and Wilde's relationship ended in November 2020. Wilde was publicly served with court documents regarding child custody while she was presenting Don't Worry Darling at CinemaCon 2022. In January 2021, Wilde began dating singer Harry Styles after meeting during the filming of Don't Worry Darling.Thought:I need to use a search engine to find Harry Styles' current age.Action:{    "action": "Search",    "action_input": "Harry Styles age"}
Observation: 29 yearsThought:Now I need to calculate 29 raised to the 0.23 power.Action:{    "action": "Calculator",    "action_input": "29^0.23"}
Observation: Answer: 2.169459462491557
Thought:I now know the final answer.Final Answer: 2.169459462491557
> Finished chain.'2.169459462491557'

from langchain.prompts import (    ChatPromptTemplate,    MessagesPlaceholder,    SystemMessagePromptTemplate,    HumanMessagePromptTemplate)from langchain.chains import ConversationChainfrom langchain.chat_models import ChatOpenAIfrom langchain.memory import ConversationBufferMemory
prompt = ChatPromptTemplate.from_messages([    SystemMessagePromptTemplate.from_template(        "The following is a friendly conversation between a human and an AI. The AI is talkative and ""provides lots of specific details from its context. If the AI does not know the answer to a ""question, it truthfully says it does not know."    ),    MessagesPlaceholder(variable_name="history"),    HumanMessagePromptTemplate.from_template("{input}")])
llm = ChatOpenAI(temperature=0)memory = ConversationBufferMemory(return_messages=True)conversation = ConversationChain(memory=memory, prompt=prompt, llm=llm)
conversation.predict(input="Hi there!")# 'Hello! How can I assist you today?'

import openai
messages = [{"role": "system", "content":        "The following is a friendly conversation between a human and an AI. The AI is talkative and ""provides lots of specific details from its context. If the AI does not know the answer to a ""question, it truthfully says it does not know."}]
user_message = "Hi there!"messages.append({"role": "user", "content": user_message})response = openai.ChatCompletion.create(model="gpt-3.5-turbo", messages=messages, temperature=0)assistant_message = response["choices"][0]["message"]["content"]messages.append({"role": "assistant", "content": assistant_message})# Hello! How can I assist you today?