让AI错误处理更流畅：工具调用失败的解决策略

最新推荐文章于 2025-05-26 23:44:52 发布

原创最新推荐文章于 2025-05-26 23:44:52 发布 · 1.8k 阅读

9 ·

CC 4.0 BY-SA版权

文章标签：

#人工智能 #python #linux

让AI错误处理更流畅：工具调用失败的解决策略

在使用现代AI模型的过程中，尽管调用工具比简单的提示更可靠，但仍然可能会出现错误。本篇文章将深入探讨如何在链中构建错误处理机制，以应对这些失败模式。

引言

对于AI和编程爱好者来说，掌握如何处理工具调用过程中的错误是至关重要的。本篇文章旨在为读者提供一套策略，以在遇到常见错误时，能够更优雅地处理和恢复。

主要内容

基本设置

我们首先需要安装以下软件包：

%pip install --upgrade --quiet langchain-core langchain-openai

错误场景设置

假设我们有一个工具调用链，模型可能会忘记某些必要参数导致失败。以下是一个示例工具和链：

from langchain_core.tools import tool

@tool
def complex_tool(int_arg: int, float_arg: float, dict_arg: dict) -> int:
    """执行复杂计算的工具。"""
    return int_arg * float_arg

llm_with_tools = llm.bind_tools([complex_tool])

# 定义链
chain = llm_with_tools | (lambda msg: msg.tool_calls[0]["args"]) | complex_tool

这样的设置可能会因为模型调用工具时遗漏参数dict_arg而失败。

错误处理策略

Try/Except 工具调用

通过捕捉异常并返回有用的错误信息，我们可以更友好地处理调用失败。

from typing import Any
from langchain_core.runnables import Runnable, RunnableConfig

def try_except_tool(tool_args: dict, config: RunnableConfig) -> Runnable:
    try:
        complex_tool.invoke(tool_args, config=config)
    except Exception as e:
        return f"调用工具时发生错误：\n\n{tool_args}\n\n错误信息：\n\n{type(e)}: {e}"

chain = llm_with_tools | (lambda msg: msg.tool_calls[0]["args"]) | try_except_tool

回退模型

在工具调用失败时，可以尝试回退到一个更好的模型。例如，使用gpt-4-1106-preview代替gpt-3.5-turbo。

better_model = ChatOpenAI(model="gpt-4-1106-preview", temperature=0).bind_tools(
    [complex_tool]
)
chain_with_fallback = chain.with_fallbacks([better_chain])

异常重试

通过传递异常信息自动重试链，让模型有机会纠正其行为。

from langchain_core.messages import AIMessage, HumanMessage, ToolCall, ToolMessage
from langchain_core.prompts import ChatPromptTemplate

class CustomToolException(Exception):
    # 自定义异常类
    pass

def tool_custom_exception(msg: AIMessage, config: RunnableConfig) -> Runnable:
    # 捕捉并引发自定义异常
    pass

def exception_to_messages(inputs: dict) -> dict:
    # 将异常转换为消息
    pass

prompt = ChatPromptTemplate.from_messages([("human", "{input}"), ("placeholder", "{last_output}")])
chain = prompt | llm_with_tools | tool_custom_exception
self_correcting_chain = chain.with_fallbacks(
    [exception_to_messages | chain], exception_key="exception"
)