AI全知道-如何利用LLM来调用工具 (Call Tools)

### 如何在代码中实现LLM函数调用 LLM函数调用的核心在于使模型能够理解并执行特定的功能，这些功能通常由外部服务或工具提供。以下是关于如何实现这一过程的具体方法。 #### 使用LangChain框架进行异步调用 为了简化复杂的LLM应用程序开发流程，`LangChain`框架提供了高级抽象支持，使得开发者可以通过简单的接口轻松管理多个LLM调用以及与其他工具的集成[^3]。下面是一个具体的Python代码示例： ```python from langchain.llms import OpenAI from langchain.agents import initialize_agent, Tool from langchain.tools import BaseTool class DataExtractor(BaseTool): name = "data_extractor" description = "Useful for extracting data from structured inputs" def _run(self, query: str): # 假设这里有一个数据提取逻辑 return f"Extracted {query}" llm = OpenAI(temperature=0) tools = [DataExtractor()] agent = initialize_agent(tools, llm, agent="zero-shot-react-description", verbose=True) response = agent.run("Please extract the user's information.") print(response) ``` 这段代码展示了如何创建自定义工具类 `DataExtractor` 并将其与 LangChain 集成在一起，从而实现了对结构化输入的数据提取操作。 #### 定义和调用具体函数 除了利用现有的库之外，还可以手动定义适合业务需求的函数，并通过适当的方式传递给LLM模型以便于其识别和调用。例如，在某些情况下可能需要定义像 `extract_data(name: string, birthday: string)` 这样的简单函数[^4]。以下是如何在一个假设场景下实现此类函数的一个例子： ```python def extract_data(name: str, birthday: str) -> dict: """A function to simulate extraction of personal details.""" return {"name": name, "birthday": birthday} # Assuming we have an LLM instance that supports function calls. functions = [ { "name": "extract_data", "description": "Extracts and returns a dictionary containing 'name' and 'birthday'.", "parameters": { "type": "object", "properties": { "name": {"type": "string"}, "birthday": {"type": "string"} }, "required": ["name", "birthday"] } } ] prompt = """ You are now able to call functions based on your understanding of the input text. Input Text: The person is named John Doe born on January 1st, 2000. Action: Call the appropriate function with parameters derived from the Input Text. """ function_call_result = some_llm_instance(prompt=prompt, functions=functions).execute() if isinstance(function_call_result, dict): print(f"The extracted data is as follows:\n{function_call_result}") else: raise ValueError("Unexpected result type received!") ``` 此部分演示了如何构建一个JSON Schema来描述参数期望值，并将之嵌入到提示语境当中去引导LLMs正确地解析信息并作出相应的动作响应。 #### Prompt格式优化技巧 最后值得注意的是，良好的Prompt设计对于提升LLM函数调用的成功率至关重要。研究表明精心调整后的Prompt样式可以帮助提高系统的整体表现效果[^5]。因此，在实际应用过程中应当重视这方面的工作。