追踪 Mistral 应用

​

安装

pip install mistralai langsmith

​

设置

export MISTRAL_API_KEY="<你的_mistral_api_密钥>"
export LANGSMITH_TRACING="true"
export LANGSMITH_API_KEY="<你的_langsmith_api_密钥>"
export LANGSMITH_PROJECT="<你的项目名称>"  # 可选

• 确保你已从 Mistral AI 账户 获取 Mistral API 密钥（将其设置为 MISTRAL_API_KEY）。
• 设置 LANGSMITH_TRACING=true 并提供你的 LangSmith API 密钥（LANGSMITH_API_KEY）以激活追踪的自动记录。
• 指定一个 LANGSMITH_PROJECT 名称以按项目组织追踪；如果未设置，追踪将进入默认项目（名为 “default”）。
• LANGSMITH_TRACING 标志必须为 true 才能记录任何追踪。

​

配置追踪

1. 使用 LangSmith 检测 Mistral API 调用。在你的脚本中，创建一个 Mistral 客户端，并将调用包装在一个被追踪的函数中：
   Python

   TypeScript

   import os
   from mistralai import Mistral
   from langsmith import traceable
   
   # 使用你的 API 密钥初始化 Mistral API 客户端
   client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
   
   @traceable(
       run_type="llm",
       metadata={"ls_provider": "mistral", "ls_model_name": "mistral-medium-latest"},
   )
   def query_mistral(prompt: str):
       response = client.chat.complete(
           model="mistral-medium-latest",
           messages=[{"role": "user", "content": prompt}],
       )
       return response.choices[0].message
   
   # 使用示例
   result = query_mistral("你好，最近怎么样？")
   print("Mistral 响应：", result.content)
   
   在此示例中，你使用 Mistral SDK 发送聊天补全请求（包含用户提示词）并获取模型的回答。 @traceable 装饰器（来自 LangSmith Python SDK）包装了 query_mistral 函数，使得每次调用都会被记录为一个类型为 "llm" 的追踪运行。metadata={"ls_provider": "mistral", "ls_model_name": "mistral-medium-latest"} 为追踪打上了提供者（Mistral）和模型名称的标签。 你也可以参考 LangSmith JavaScript SDK。
2. 执行你的脚本以生成追踪。例如：
   Python

   JavaScript

   python mistral_trace.py
   
   query_mistral("你好，最近怎么样？") 调用将访问 Mistral API，并且由于 @traceable/traceable 包装器的存在，LangSmith 会将此调用的输入和输出记录为新的追踪。你将在控制台看到模型的响应，并在 LangSmith 中看到相应的运行记录。

​

在 LangSmith 中查看追踪

1. 打开 LangSmith UI 并登录你的账户。
2. 选择你为此集成使用的项目（例如，在 LANGSMITH_PROJECT 中设置的名称，如果未设置则使用默认项目）。
3. 找到与你的 Mistral API 调用对应的追踪。它将通过函数名（query_mistral）或自定义名称（如果提供）来标识。
4. 点击追踪以打开它。你将能够检查模型的输入和输出，包括你发送的提示词消息和 Mistral 的响应，以及时间信息（延迟）和任何错误详情（如果调用失败）。

​

成本追踪