Skip to content

为什么是LangGraph?

大型语言模型的应用

大型语言模型使得将智能嵌入到一类新的应用程序中成为可能。构建使用大型语言模型的应用程序有许多模式。工作流具有围绕大型语言模型调用的预定义代码路径的框架结构。大型语言模型可以控制这些预定义代码路径中的流程,这在某些情况下被认为是“代理系统”。在其他情况下,则可以移除这种框架结构,创建能够规划、通过工具调用采取行动,并直接响应其自身行为的反馈并采取进一步行动的自主代理。

代理工作流

LangGraph提供的功能

LangGraph提供低级支持基础设施,位于任何工作流或代理程序之下。它不抽象提示或架构,并提供了三个核心优势:

持久性

LangGraph具有持久层,提供了以下几项好处:

  • 内存:LangGraph可以持久化应用程序状态的任意方面,支持对话记忆以及其他跨用户交互的更新;
  • 人机交互:由于状态被检查点化,执行可以在中断后恢复,允许通过人工输入进行决策、验证和纠正。

流式传输

LangGraph还为在执行过程中将工作流/代理的状态流式传输给用户(或开发人员)提供了支持。LangGraph支持事件流式传输(如工具调用反馈)以及嵌入在应用程序中的来自LLM调用的令牌

调试与部署

LangGraph通过LangGraph平台为测试、调试和部署应用程序提供了便捷途径。这包括工作室,这是一个IDE,能够实现工作流或代理的可视化、交互和调试。此外还包括多种选项用于部署。

Comments