追踪 DeepSeek 应用

​

安装

pip install openai langsmith

​

设置

export LANGSMITH_API_KEY="your-langsmith-api-key"
export LANGSMITH_TRACING="true"
export LANGSMITH_PROJECT="deepseek-integration"
export DEEPSEEK_API_KEY="your-deepseek-api-key"

• 确保你已从 DeepSeek 账户 获取 DeepSeek API 密钥。
• 设置 LANGSMITH_TRACING=true 并提供你的 LangSmith API 密钥（LANGSMITH_API_KEY）以激活自动追踪记录。
• 指定一个 LANGSMITH_PROJECT 名称以按项目组织追踪；如果未设置，追踪将进入默认项目（名为 “default”）。
• LANGSMITH_TRACING 标志必须为 true 才能记录任何追踪。

​

配置追踪

1. 使用 LangSmith 对 DeepSeek API 调用进行插桩。在你的脚本中，创建一个配置为使用 DeepSeek API 端点的 OpenAI 客户端，并将调用包装在一个被追踪的函数中：
   Python

   TypeScript

   import os
   from openai import OpenAI
   from langsmith import traceable
   
   # 创建指向 DeepSeek 的客户端
   client = OpenAI(
       api_key=os.environ["DEEPSEEK_API_KEY"],
       base_url="https://api.deepseek.com/v1"
   )
   
   @traceable(
       run_type="llm",
       name="DeepSeek Chat Completion",
       metadata={"ls_provider": "deepseek", "ls_model_name": "deepseek-chat"},
   )
   def call_deepseek(messages: list[dict]):
       response = client.chat.completions.create(
           model="deepseek-chat",
           messages=messages
       )
       return response.choices[0].message
   
   if __name__ == "__main__":
       messages = [
           {"role": "system", "content": "You are a helpful assistant that translates English to French."},
           {"role": "user", "content": "I love programming."}
       ]
       result = call_deepseek(messages=messages)
       print("Model reply:", result.content)
   
   在此示例中，你使用 OpenAI SDK 与 DeepSeek 的 API 交互。OpenAI 客户端配置了 base_url="https://api.deepseek.com/v1"，以将请求路由到 DeepSeek 的端点，同时保持与 OpenAI 兼容的语法。 @traceable 装饰器（Python）或 traceable 函数（TypeScript）包装了你的函数，以便每次调用都被记录为类型为 "llm" 的追踪运行。metadata 参数为追踪添加了以下标签：
   • ls_provider：标识提供商（DeepSeek），用于筛选追踪。
   • ls_model_name：指定用于成本跟踪和分析的模型。
   该函数返回完整的消息对象（response.choices[0].message），其中包括响应内容以及角色和任何其他字段的元数据。LangSmith 会自动捕获：
   • 发送到模型的输入消息。
   • 模型的完整响应（内容、角色等）。
   • 模型名称和令牌使用统计。
   • 执行时间和任何错误。
2. 执行你的脚本以生成追踪：
   Python

   TypeScript

   python deepseek_trace.py
   
   函数调用将访问 DeepSeek 的 API，并且由于 @traceable/traceable 包装器，LangSmith 会将此调用的输入和输出记录为新的追踪。你将在控制台看到模型的响应，并在 LangSmith UI 中看到相应的运行记录。

​

在 LangSmith 中查看追踪

1. 打开 LangSmith UI 并登录你的账户。
2. 选择你用于此集成的项目（例如，在 LANGSMITH_PROJECT 中设置的名称，如果未设置，则为 “default”）。
3. 找到与你的 DeepSeek API 调用对应的追踪。它将通过函数名称（DeepSeek Chat Completion）标识。
4. 点击追踪以打开它。你将能够检查模型输入和输出，包括你发送的提示消息和 DeepSeek 的响应，以及时间信息（延迟）和令牌使用情况。

​

成本跟踪