启用 LangSmith 部署

​

概述

• 安装 LangGraph 操作器
• 配置您的入口
• 连接到控制平面

​

先决条件

1. 您正在使用 Kubernetes。
2. 您有一个正在运行的自托管 LangSmith 实例。
3. 您的集群上已安装 KEDA。

  helm repo add kedacore https://kedacore.github.io/charts
  helm install keda kedacore/keda --namespace keda --create-namespace

4. 入口配置
   1. 您必须为您的 LangSmith 实例设置入口、网关或使用 Istio。所有智能体都将作为 Kubernetes 服务部署在此入口之后。请使用本指南为您的实例设置入口。要启用 LangSmith 部署，您需要在 values.yaml 中提供一个 hostname。
5. 您的集群中必须有足够的空间来容纳多个部署。建议使用 Cluster-Autoscaler 来自动配置新节点。
6. 一个有效的动态 PV 供应器或集群上可用的 PV。您可以通过运行以下命令来验证：

  kubectl get storageclass

7. 您的网络可以出站访问 https://beacon.langchain.com。如果未在隔离模式下运行，则需要进行许可证验证和使用情况报告。有关更多详细信息，请参阅出站访问文档。

​

设置

1. 作为配置自托管 LangSmith 实例的一部分，您需要启用 deployment 选项。这将配置几个关键资源。
   1. listener：这是一个服务，用于监听控制平面对您部署的更改，并创建/更新下游的 CRD。
   2. LangGraphPlatform CRD：用于 LangSmith 部署的 CRD。它包含管理 LangSmith 部署实例的规范。
   3. operator：此操作器处理对 LangSmith CRD 的更改。
   4. host-backend：这是控制平面。

2. 图表将使用两个额外的镜像。请使用最新版本中指定的镜像。

  hostBackendImage:
    repository: "docker.io/langchain/hosted-langserve-backend"
    pullPolicy: IfNotPresent
  operatorImage:
    repository: "docker.io/langchain/langgraph-operator"
    pullPolicy: IfNotPresent

3. 在您的 LangSmith 配置文件（通常是 langsmith_config.yaml）中，启用 deployment 选项。请注意，您还必须有一个有效的入口设置：

  config:
    deployment:
      enabled: true
    # 从 v0.12.0 开始，此部分已弃用。对于 v0.12.0 之后的任何版本，请使用 config.deployment。
    langgraphPlatform:
      enabled: true
      langgraphPlatformLicenseKey: "YOUR_LANGGRAPH_PLATFORM_LICENSE_KEY"

4. 在您的 values.yaml 文件中，配置 hostBackendImage 和 operatorImage 选项（如果您需要镜像镜像）。如果您使用的是需要身份验证的私有容器注册表，则还必须配置 imagePullSecrets，请参阅为私有注册表配置身份验证。
5. 您还可以通过覆盖 values.yaml 中的基础模板 来为您的智能体配置基础模板。 您的自托管基础设施现在已准备好创建部署。

​

（可选）配置额外的数据平面

​

先决条件

1. 阅读混合部署文档中的集群组织指南，以了解如何根据您的用例最佳地组织此操作。
2. 验证新集群满足混合部署部分中提到的先决条件。请注意，在先决条件的第 5 步中，您需要启用对您的自托管 LangSmith 实例的出站访问，而不是 https://api.host.langchain.com 和 https://api.smith.langchain.com。
3. 针对您的 LangSmith Postgres 实例运行以下命令以启用此功能。这是您的自托管 LangSmith 设置附带的 Postgres 实例。

update organizations set config = config || '{"enable_lgp_listeners_page": true}' where id = '<org id here>';
update tenants set config = config || '{"langgraph_remote_reconciler_enabled": true}' where id = '<workspace id here>';

​

部署到不同的集群

1. 按照混合设置指南中的步骤 2-6 操作。config.langsmithWorkspaceId 值应设置为在先决条件中记下的工作空间 ID。
2. 要在集群中部署多个数据平面，请遵循在同一集群中配置额外数据平面的规则。

​

部署到同一集群的不同命名空间

1. 您需要对在上述设置说明第 3 步中创建的 langsmith_config.yaml 文件进行一些修改：
   • 将 operator.watchNamespaces 字段设置为您的自托管 LangSmith 实例当前运行的命名空间。这是为了防止与作为新数据平面一部分添加的操作器发生冲突。
   • 必须使用 Gateway API 或 Istio Gateway。请相应地调整您的 langsmith_config.yaml 文件。
2. 运行 helm upgrade 以使用新配置更新您的自托管 LangSmith 实例。
3. 按照混合设置指南中的步骤 2-6 操作。config.langsmithWorkspaceId 值应设置为在先决条件中记下的工作空间 ID。请记住，config.watchNamespaces 应设置为与现有数据平面使用的命名空间不同的命名空间！
4. （可选）配置控制平面以从其他命名空间读取 Agent Server 部署的日志。有关更多详细信息，请参阅说明。

​

（可选）为私有注册表配置身份验证

kubectl create secret docker-registry langsmith-registry-secret \
    --docker-server=myregistry.com \
    --docker-username=your-username \
    --docker-password=your-password \
    --docker-email=your-email@example.com \
    -n langsmith

• myregistry.com：您的注册表 URL
• your-username：您的注册表用户名
• your-password：您的注册表密码或访问令牌
• langsmith：安装 LangSmith 的 Kubernetes 命名空间

operator:
  templates:
    deployment: |
      apiVersion: apps/v1
      kind: Deployment
      metadata:
        name: ${name}
        namespace: ${namespace}
      spec:
        replicas: ${replicas}
        revisionHistoryLimit: 10
        selector:
          matchLabels:
            app: ${name}
        template:
          metadata:
            labels:
              app: ${name}
          spec:
            enableServiceLinks: false
            imagePullSecrets:
            - name: langsmith-registry-secret
            containers:
            - name: api-server
              image: ${image}
              ports:
              - name: api-server
                containerPort: 8000
                protocol: TCP
              livenessProbe:
                httpGet:
                  path: /ok
                  port: 8000
                periodSeconds: 15
                timeoutSeconds: 5
                failureThreshold: 6
              readinessProbe:
                httpGet:
                  path: /ok
                  port: 8000
                periodSeconds: 15
                timeoutSeconds: 5
                failureThreshold: 6

​

（可选）配置从其他命名空间读取 Agent Server 部署日志的访问权限

1. 在部署 Agent Server 的 Kubernetes 命名空间中创建一个具有所需权限的 Role。替换以下命令中的 <data_plane_namespace>：
   kubectl apply -n <data_plane_namespace> -f - <<EOF
   apiVersion: rbac.authorization.k8s.io/v1
   kind: Role
   metadata:
   name: read-agent-server-logs-role
   rules:
   - apiGroups: [""]
       resources: ["pods"]
       verbs: ["get","list","watch"]
   - apiGroups: [""]
       resources: ["pods/log"]
       verbs: ["get","watch"]
   - apiGroups: ["apps"]
       resources: ["deployments"]
       verbs: ["get","list","watch"]
   - apiGroups: ["apps"]
       resources: ["replicasets"]
       verbs: ["get","list","watch"]
   EOF
   
2. 获取控制平面 ServiceAccount。替换 <control_plane_namespace>：
   kubectl get serviceaccounts -n <control_plane_namespace> | grep host-backend
   
3. 将该 Role 绑定到控制平面 ServiceAccount。替换以下命令中的 <data_plane_namespace>、<control_plane_namespace> 和 <control_plane_service_account>：
   kubectl apply -n <data_plane_namespace> -f - <<EOF
   apiVersion: rbac.authorization.k8s.io/v1
   kind: RoleBinding
   metadata:
   name: read-agent-server-logs-role-binding
   subjects:
   - kind: ServiceAccount
       name: <control_plane_service_account>
       namespace: <control_plane_namespace>
   roleRef:
   apiGroup: rbac.authorization.k8s.io
   kind: Role
   name: read-agent-server-logs-role
   EOF
   

​

后续步骤