如何部署自托管数据平面（测试版）

在部署之前，请查阅自托管数据平面部署选项的概念性指南。

先决条件

1. 使用LangGraph CLI在本地测试您的应用程序（参见在此处测试您的应用）。
2. 使用LangGraph CLI构建Docker镜像（即langgraph build），并将该镜像推送到您的Kubernetes集群或Amazon ECS集群可以访问的注册表中。

Kubernetes

先决条件

1. 在您的集群上安装了KEDA。

   helm repo add kedacore https://kedacore.github.io/charts 
   helm install keda kedacore/keda --namespace keda --create-namespace
   

2. 您的集群上已安装有效的Ingress控制器。

3. 您的集群有足够的空间用于多个部署。推荐使用Cluster-Autoscaler自动提供新的节点。

配置

1. 提供您的LangSmith组织ID给我们。我们将为您的组织启用自托管的数据平面。
2. 我们会提供一个Helm图表，您运行该图表以设置您的Kubernetes集群。此图表包含几个重要的组件。
   1. langgraph-listener: 这是一个监听LangChain控制平面的服务，它会根据部署的变化创建或更新下游CRDs。
   2. LangGraphPlatform CRD: 用于LangGraph平台部署的CRD。这包含了管理一个LangGraph平台实例的规格。
   3. langgraph-platform-operator: 此操作员处理您的LangGraph平台CRDs的变化。

3. 配置您的langgraph-dataplane-values.yaml文件。

   config:
     langgraphPlatformLicenseKey: "" # 您的LangGraph平台许可证密钥
     langsmithApiKey: "" # 工作区API密钥
     langsmithWorkspaceId: "" # 工作区ID
     hostBackendUrl: "https://api.host.langchain.com" # 只有在欧盟时才覆盖此值
     smithBackendUrl: "https://api.smith.langchain.com" # 只有在欧盟时才覆盖此值
   

4. 部署langgraph-dataplaneHelm图表。

   helm repo add langchain https://langchain-ai.github.io/helm/
   helm repo update
   helm upgrade -i langgraph-dataplane langchain/langgraph-dataplane --values langgraph-dataplane-values.yaml
   

5. 如果成功，您将在命名空间中看到两个服务启动。

   NAME                                          READY   STATUS              RESTARTS   AGE
   langgraph-dataplane-listener-7fccd788-wn2dx   0/1     Running             0          9s
   langgraph-dataplane-redis-0                   0/1     ContainerCreating   0          9s
   

6. 您从控制平面UI创建一个部署。

Amazon ECS

即将推出！

Comments