自定义代理

这个文档演示了如何创建自定义代理。

在这个例子中，我们将使用 OpenAI 工具调用来创建这个代理。 这通常是创建代理最可靠的方式。

我们首先将创建一个 没有记忆 的代理，但随后我们将展示如何添加记忆。记忆是实现对话所必需的。

加载 LLM

首先，让我们加载我们将用于控制代理的语言模型。

from langchain_openai import ChatOpenAI
 
llm = ChatOpenAI(model="gpt-3.5-turbo", temperature=0)

定义工具

接下来，让我们定义一些要使用的工具。我们编写一个非常简单的 Python 函数来计算传入单词的长度。

注意，这里我们使用的函数文档字符串非常重要。了解更多关于为什么这样是重要的信息，请阅读这里

from langchain.agents import tool
 
 
@tool
def get_word_length(word: str) -> int:
    """返回一个单词的长度。"""
    return len(word)
 
 
get_word_length.invoke("abc")

tools = [get_word_length]

创建提示

现在让我们创建提示。因为 OpenAI 函数调用针对工具使用进行了微调，我们几乎不需要任何关于如何推理或如何输出格式的说明。我们只需要两个输入变量：input 和 agent_scratchpad。input 应该是包含用户目标的字符串。agent_scratchpad 应该是包含先前代理工具调用及相应工具输出的消息序列。

from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
 
prompt = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            "你是一个非常强大的助手，但不了解当前事件",
        ),
        ("user", "{input}"),
        MessagesPlaceholder(variable_name="agent_scratchpad"),
    ]
)

将工具绑定到 LLM

代理如何知道它可以使用什么工具？

在这种情况下，我们依赖于 OpenAI 工具调用 LLM，它们将工具作为单独的参数，并经过特别训练以知道何时调用这些工具。

要将我们的工具传递给代理，我们只需要将它们格式化为 OpenAI 工具格式 (opens in a new tab)，并将它们传递到我们的模型。（通过 bind 绑定函数，我们确保它们每次模型被调用时都会传入。）

llm_with_tools = llm.bind_tools(tools)

创建代理

将这些部分组合起来，我们现在可以创建代理了。我们将导入两个最后的实用函数：一个用于将中间步骤（代理动作、工具输出对）格式化为可以发送到模型的输入消息的组件，以及一个用于将输出消息转换为代理动作/代理完成的组件。

from langchain.agents.format_scratchpad.openai_tools import (
    format_to_openai_tool_messages,
)
from langchain.agents.output_parsers.openai_tools import OpenAIToolsAgentOutputParser
 
agent = (
    {
        "input": lambda x: x["input"],
        "agent_scratchpad": lambda x: format_to_openai_tool_messages(
            x["intermediate_steps"]
        ),
    }
    | prompt
    | llm_with_tools
    | OpenAIToolsAgentOutputParser()
)

from langchain.agents import AgentExecutor
 
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

list(agent_executor.stream({"input": "How many letters in the word eudca"}))

> Entering new AgentExecutor chain...
Invoking: `get_word_length` with `{'word': 'eudca'}`

5
There are 5 letters in the word "eudca".

> Finished chain.

[{'actions': [OpenAIToolAgentAction(tool='get_word_length', tool_input={'word': 'eudca'}, log="\nInvoking: `get_word_length` with `{'word': 'eudca'}`\n\n\n", message_log=[AIMessageChunk(content='', additional_kwargs={'tool_calls': [{'index': 0, 'id': 'call_A07D5TuyqcNIL0DIEVRPpZkg', 'function': {'arguments': '{\n  "word": "eudca"\n}', 'name': 'get_word_length'}, 'type': 'function'}]})], tool_call_id='call_A07D5TuyqcNIL0DIEVRPpZkg')],
  'messages': [AIMessageChunk(content='', additional_kwargs={'tool_calls': [{'index': 0, 'id': 'call_A07D5TuyqcNIL0DIEVRPpZkg', 'function': {'arguments': '{\n  "word": "eudca"\n}', 'name': 'get_word_length'}, 'type': 'function'}]})]},
 {'steps': [AgentStep(action=OpenAIToolAgentAction(tool='get_word_length', tool_input={'word': 'eudca'}, log="\nInvoking: `get_word_length` with `{'word': 'eudca'}`\n\n\n", message_log=[AIMessageChunk(content='', additional_kwargs={'tool_calls': [{'index': 0, 'id': 'call_A07D5TuyqcNIL0DIEVRPpZkg', 'function': {'arguments': '{\n  "word": "eudca"\n}', 'name': 'get_word_length'}, 'type': 'function'}]})], tool_call_id='call_A07D5TuyqcNIL0DIEVRPpZkg'), observation=5)],
  'messages': [FunctionMessage(content='5', name='get_word_length')]},
 {'output': 'There are 5 letters in the word "eudca".',
  'messages': [AIMessage(content='There are 5 letters in the word "eudca".')]}]

如果我们将其与基本 LLM 进行对比，可以看到单独使用 LLM 的结果并不理想

llm.invoke("How many letters in the word educa")

AIMessage(content='There are 6 letters in the word "educa".')

添加记忆

这很棒 - 我们有了一个代理！然而，这个代理是无状态的 - 它不会记住任何关于先前交互的信息。这意味着您不能轻松地提出后续问题。让我们通过添加记忆来解决这个问题。

为了做到这一点，我们需要做两件事：

在提示中添加记忆变量的位置
跟踪聊天历史

首先，让我们在提示中为记忆添加一个位置。我们通过添加一个键为 "chat_history" 的消息占位符来实现这一点。注意，我们将这个放在新用户输入的上方（以符合对话流程）。

from langchain_core.prompts import MessagesPlaceholder
 
MEMORY_KEY = "chat_history"
prompt = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            "你是一个非常强大的助手，但不擅长计算单词的长度。",
        ),
        MessagesPlaceholder(variable_name=MEMORY_KEY),
        ("user", "{input}"),
        MessagesPlaceholder(variable_name="agent_scratchpad"),
    ]
)

然后我们可以设置一个列表来跟踪聊天历史

from langchain_core.messages import AIMessage, HumanMessage
 
chat_history = []

然后我们可以将所有东西整合在一起！

agent = (
    {
        "input": lambda x: x["input"],
        "agent_scratchpad": lambda x: format_to_openai_tool_messages(
            x["intermediate_steps"]
        ),
        "chat_history": lambda x: x["chat_history"],
    }
    | prompt
    | llm_with_tools
    | OpenAIToolsAgentOutputParser()
)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

在运行时，我们现在需要跟踪输入和输出作为聊天历史

input1 = "how many letters in the word educa?"
result = agent_executor.invoke({"input": input1, "chat_history": chat_history})
chat_history.extend(
    [
        HumanMessage(content=input1),
        AIMessage(content=result["output"]),
    ]
)
agent_executor.invoke({"input": "is that a real word?", "chat_history": chat_history})

> Entering new AgentExecutor chain...
Invoking: `get_word_length` with `{'word': 'educa'}`

5
There are 5 letters in the word "educa".

> Finished chain.

> Entering new AgentExecutor chain...
No, "educa" is not a real word in English.

> Finished chain.

{'input': 'is that a real word?',
 'chat_history': [HumanMessage(content='how many letters in the word educa?'),
  AIMessage(content='There are 5 letters in the word "educa".')],
 'output': 'No, "educa" is not a real word in English.'}

结构化代理（AgentStructured）处理解析错误（HandleParsingErrors）