模型¶
本页描述了如何配置代理使用的聊天模型。
工具调用支持¶
要启用工具调用代理,底层的LLM必须支持工具调用。
兼容的模型可以在LangChain 集成目录中找到。
通过名称指定模型¶
你可以使用模型名称字符串来配置一个代理:
使用 init_chat_model
¶
init_chat_model
工具通过可配置的参数简化了模型初始化:
import os
from langchain.chat_models import init_chat_model
os.environ["AZURE_OPENAI_API_KEY"] = "..."
os.environ["AZURE_OPENAI_ENDPOINT"] = "..."
os.environ["OPENAI_API_VERSION"] = "2025-03-01-preview"
model = init_chat_model(
"azure_openai:gpt-4.1",
azure_deployment=os.environ["AZURE_OPENAI_DEPLOYMENT_NAME"],
temperature=0,
# 其他参数
)
有关高级选项,请参考 API 参考。
使用特定提供者的LLM¶
如果某个模型提供者无法通过 init_chat_model
调用,你可以直接实例化该提供者的模型类。该模型必须实现 BaseChatModel 接口 并支持工具调用:
API Reference: ChatAnthropic | create_react_agent
from langchain_anthropic import ChatAnthropic
from langgraph.prebuilt import create_react_agent
model = ChatAnthropic(
model="claude-3-7-sonnet-latest",
temperature=0,
max_tokens=2048
)
agent = create_react_agent(
model=model,
# other parameters
)
示例说明
上面的示例使用了 ChatAnthropic
,它已经可以通过 init_chat_model
调用。此模式仅用于演示如何手动实例化那些无法通过 init_chat_model
调用的模型。
禁用流式传输¶
要禁用单个LLM令牌的流式传输,请在初始化模型时设置 disable_streaming=True
:
有关 disable_streaming
的更多信息,请参阅 API 参考
添加模型回退¶
你可以使用 model.with_fallbacks([...])
将回退添加到不同的模型或不同的 LLM 提供商:
有关模型回退的更多信息,请参阅此 指南。