Skip to content

LangGraph 平台

观看这段 4 分钟的 LangGraph 平台概览视频,了解它是如何帮助您构建、部署和评估代理应用程序的。

概述

LangGraph 平台是一款商业解决方案,用于将代理应用程序部署到生产环境中,基于开源LangGraph框架构建。

LangGraph 平台由几个组件组成,这些组件协同工作以支持 LangGraph 应用程序的开发、部署、调试和监控:

  • LangGraph 服务器:该服务器定义了一个有见地的 API 和架构,结合了部署代理应用的最佳实践,使您可以专注于构建代理逻辑,而不是开发服务器基础设施。
  • LangGraph 工作室:LangGraph 工作室是一种专用的集成开发环境(IDE),可以连接到 LangGraph 服务器,从而实现本地可视化、交互和调试应用程序。
  • LangGraph 命令行界面 (CLI):LangGraph CLI 是一个命令行接口,帮助您与本地 LangGraph 进行交互。
  • Python/JS SDK:Python/JS SDK 提供了一种编程方式来与已部署的 LangGraph 应用程序进行交互。
  • 远程图:远程图允许您与任何已部署的 LangGraph 应用程序进行交互,就像它在本地运行一样。
  • LangGraph 控制平面:LangGraph 控制平面指的是用户创建和更新 LangGraph 服务器的控制平面用户界面以及支持该用户体验的控制平面 API。
  • LangGraph 数据平面:LangGraph 数据平面指的是 LangGraph 服务器、每个服务器对应的基础设施以及“监听器”应用程序,该应用程序会持续轮询来自 LangGraph 控制平面的更新。

LangGraph 平台架构图

LangGraph 平台提供了几种不同的部署选项,详情请参阅部署选项指南

为什么使用LangGraph平台?

**LangGraph平台**处理在将LLM应用程序部署到生产环境时常见的问题,使您可以专注于代理逻辑而不是管理服务器基础设施。

  • 流式支持:随着代理变得越来越复杂,它们通常会从流式传输令牌输出和中间状态回传给用户中受益。如果没有这种功能,用户可能会等待长时间的操作而没有任何反馈。LangGraph Server提供了多种流模式,以优化各种应用需求。

  • 后台运行:对于处理时间较长(例如几小时)的代理,维持一个开放连接可能是不切实际的。LangGraph Server支持在后台启动代理运行,并提供轮询端点和Webhook来有效监控运行状态。

  • 支持长时间运行:普通的服务器设置在处理长时间完成的请求时经常会遇到超时或中断的问题。LangGraph Server的API通过发送定期心跳信号提供了强大的支持,防止在长时间过程中意外关闭连接。

  • 处理突发性:某些应用程序,尤其是那些具有实时用户交互的应用程序,在同时收到大量请求时可能会经历“突发性”负载。LangGraph Server包括任务队列,确保即使在高负载下也能一致地处理请求,而不会丢失。

  • 双重发送:在用户驱动的应用程序中,用户经常快速发送多条消息。“双重发送”如果处理不当,可能会扰乱代理流程。LangGraph Server提供了内置策略来应对和管理此类交互。

  • 检查点器和内存管理:对于需要持久性的代理(例如对话记忆),部署一个稳健的存储解决方案可能很复杂。LangGraph平台包括了优化的检查点器内存存储,可以在会话之间管理状态,而无需自定义解决方案。

  • 人机协作支持:在许多应用程序中,用户需要一种方式来干预代理过程。LangGraph Server为人类介入场景提供了专门的端点,简化了将手动监督集成到代理工作流程中的过程。

通过使用LangGraph平台,您将获得一个强大且可扩展的部署解决方案,可以缓解这些挑战,从而节省手动实现和维护这些解决方案的努力。这使您可以更多地关注构建有效的代理行为,而较少关注解决部署基础设施问题。

Comments