如何部署自托管控制平面（测试版）

在部署之前，请查阅自托管控制平面部署选项的概念性指南。

先决条件

1. 您正在使用 Kubernetes。
2. 您已自行部署了 LangSmith。
3. 使用 LangGraph CLI 在本地测试您的应用程序 [./test_locally.md]。
4. 使用 LangGraph CLI 构建一个 Docker 镜像（即 langgraph build）并将其推送到您的 Kubernetes 集群可以访问的注册表中。

5. KEDA 已安装在您的集群上。

    helm repo add kedacore https://kedacore.github.io/charts 
    helm install keda kedacore/keda --namespace keda --create-namespace
   

6. Ingress 配置（推荐）

   1. 安装 Ingress Nginx 作为您部署的反向代理服务器。

      helm repo add ingress-nginx https://kubernetes.github.io/ingress-nginx
      helm repo update
      helm install ingress-nginx ingress-nginx/ingress-nginx
      

   2. 配置一个根域名，该域名将作为所有工作负载域的后缀（例如 us.langgraph.app）。

   3. 获取通配符证书以终止 TLS 连接。
   4. 注意：如果跳过此步骤，则需要为每个部署提供域名/证书。

7. 您的集群中有足够的空间用于多个部署。建议使用 Cluster-Autoscaler 自动分配新节点。

设置

1. 在配置您的自托管 LangSmith 实例时，您会启用 langgraphPlatform 选项。这将提供几个关键资源。

   1. 监听器：这是一个服务，它监听控制平面中的更改，并创建或更新下游 CRDs。
   2. LangGraphPlatform CRD：用于 LangGraph 平台部署的 CRD。此 CRD 包含管理一个 LangGraph 平台实例的规格。
   3. 操作员：此操作员处理对您的 LangGraph 平台 CRDs 的更改。
   4. 主机后端：这是控制平面。

2. 图表还将使用两个额外的镜像。

   hostBackendImage:
     repository: "docker.io/langchain/hosted-langserve-backend"
     pullPolicy: IfNotPresent
     tag: "0.9.80"
   operatorImage:
     repository: "docker.io/langchain/langgraph-operator"
     pullPolicy: IfNotPresent
     tag: "aa9dff4"
   

3. 在您的 values.yaml 文件中，启用 langgraphPlatform 选项。

   config:
     langgraphPlatform:
       enabled: true
       langgraphPlatformLicenseKey: "YOUR_LANGGRAPH_PLATFORM_LICENSE_KEY"
       rootDomain: "YOUR_ROOT_DOMAIN"
   

4. 您还可以通过覆盖此处的基本模板来为代理配置基础模板：这里。

5. 您可以从控制平面 UI创建一个部署。

Comments