Skip to content

大模型配置 ​

Device Agent 使用全局配置的大模型生成设备规格、理解对话并调用设备命令,快速体验前需配置一个可用模型;单个智能体的提示词、时区和回复偏好在设备智能体配置中维护。

控制台配置 ​

本地启动后,打开控制台 http://127.0.0.1:3000;平台用户使用交付的控制台地址。进入 设置 → 模型,查看 智能体模型 配置。本地部署可以编辑以下字段,平台部署中的主模型配置只读,需要调整时联系部署管理员。

字段说明
提供商选择大模型服务商。常见入口包括 openai、anthropic、doubao、qwen、moonshotai-cn、ollama、openai-compatible 等。
模型选择或填写模型 ID。下拉选项来自所选服务商的可用模型列表;openai-compatible 这类自定义入口可以手动填写模型 ID。
接口密钥填写所选服务商的 API Key。
基础地址自定义 OpenAI 兼容接口或本地模型服务时填写。openai-compatible 通常需要填写;ollama 未填写时默认使用 http://localhost:11434/v1。
最大迭代次数单次请求中智能体可执行的最大推理和工具调用轮次,通常保持默认值即可。
启用推理开启所选模型的推理(思考)能力,默认关闭。仅当前模型支持推理时显示;模型返回思考内容时,聊天中可查看。
推理等级推理开启后的思考强度,配置范围为 minimal、low、medium(默认)、high、xhigh、max。页面只显示所选模型实际支持的等级;仅支持开/关的模型不显示此选项。

保存后,如果页面提示大模型配置需要重启,请重启 Agent Gateway 后继续。

推理与思考内容 ​

复杂分析或需要多步判断的请求可以开启 启用推理。较高等级可能增加等待时间和模型用量,日常查询可先使用默认设置,再根据回答效果调整。模型只支持开关时,页面不会显示等级选择;切换模型后,以新模型提供的选项为准。

模型返回思考内容时,聊天中会显示可展开或收起的思考区域,便于了解当前分析进度。最终回答和工具执行结果用于确认请求结果。

智能体模型与推理配置表单示例

大模型服务商 ​

不同版本、部署方式下可选服务商和模型可能不同,以控制台 设置 → 模型 中显示的列表为准。

常见配置方式如下:

类型示例 LLM_PROVIDER配置方式
OpenAIopenai设置 OPENAI_API_KEY。只有使用代理或自定义兼容地址时才填写 基础地址。
Anthropicanthropic设置 ANTHROPIC_API_KEY。
豆包 / 火山方舟doubao设置 DOUBAO_API_KEY 或 ARK_API_KEY,默认地址为 https://ark.cn-beijing.volces.com/api/v3。这里需要方舟 API Key,不能使用火山引擎语音的 App ID 或 Access Key。
其他服务商google、deepseek、openrouter、xai、groq、mistral 等在控制台选择服务商和模型,填写 接口密钥。启动前配置时可用 LLM_API_KEY。
OpenAI 兼容接口openai-compatible填写自定义模型 ID、LLM_BASE_URL 和 LLM_API_KEY。也可以用 OPENAI_API_KEY 提供密钥。
Qwen / DashScopeqwen设置 QWEN_API_KEY。默认使用 https://dashscope.aliyuncs.com/compatible-mode/v1。
Kimimoonshotai-cn设置 KIMI_API_KEY。也可以用 OPENAI_API_KEY 作为兼容密钥。默认使用 https://api.moonshot.cn/v1。
Kimi Codingkimi-coding设置 KIMI_API_KEY。
Ollamaollama本地模型服务,默认地址为 http://localhost:11434/v1,通常不需要 API Key。
Cloudflare Workers AIcloudflare-workers-ai填写 Cloudflare 账户 ID 和 接口密钥,选择账户可用的模型。
Cloudflare AI Gatewaycloudflare-ai-gateway填写 Cloudflare 账户 ID、Cloudflare AI Gateway ID 和 接口密钥。
Codexopenai-codex认证方式特殊,见下方 Codex 说明。

此外还提供:

  • Google / Google Vertex(google、google-vertex)
  • DeepSeek(deepseek,包括 DeepSeek V4.1 Flash / deepseek-flash)
  • OpenRouter(openrouter)
  • xAI(xai)
  • Groq(groq)
  • Mistral(mistral)
  • Amazon Bedrock(amazon-bedrock)
  • Azure OpenAI Responses(azure-openai-responses)
  • Vercel AI Gateway(vercel-ai-gateway)
  • GitHub Copilot(github-copilot)
  • OpenCode(opencode、opencode-go)

如果已有配置的服务商为 kimi,请在使用前通过控制台或 LLM_PROVIDER 改为 moonshotai-cn,模型 ID 和 API Key 保持不变。kimi-coding 仍是独立的服务商。

常用示例:openai / gpt-5.5、anthropic / claude-sonnet-4-6、qwen / qwen-plus、deepseek / deepseek-flash、ollama / llama3.2。模型能否使用还取决于服务商账户的权限。

Cloudflare 模型服务 ​

选择 Cloudflare Workers AI,填写账户 ID 和接口密钥,使用该账户可访问的模型。选择 Cloudflare AI Gateway 时,还需要填写已创建的 Gateway ID。

本地控制台在对应服务商下显示 Cloudflare 账户 ID 和 Cloudflare AI Gateway ID。启动前也可以设置 CLOUDFLARE_ACCOUNT_ID、CLOUDFLARE_GATEWAY_ID 和 CLOUDFLARE_API_KEY;在页面留空的 ID 可由这些环境变量提供。平台用户由部署管理员配置模型服务。

Cloudflare AI Gateway 配置表单示例

Codex 认证 ​

openai-codex 不按普通 OpenAI API Key 方式配置。推荐先在运行 Device Agent 的机器上完成 Codex CLI 登录, 让系统读取默认的 ~/.codex/auth.json。也可以使用下面任一方式覆盖:

bash
LLM_PROVIDER=openai-codex
LLM_MODEL=<codex-model-id>
OPENAI_CODEX_AUTH_FILE=/path/to/auth.json

或直接提供访问令牌:

bash
LLM_PROVIDER=openai-codex
LLM_MODEL=<codex-model-id>
OPENAI_CODEX_ACCESS_TOKEN=...

在控制台中选择 openai-codex 时,普通 接口密钥 字段会作为 Codex 访问令牌覆盖;Codex 认证文件 字段用于指定 auth.json 路径。未填写时会尝试使用 Codex CLI 的默认认证文件。

已经通过 Codex CLI 登录并使用默认认证文件时,可以省略 OPENAI_CODEX_AUTH_FILE。设置该变量时必须使用绝对路径,不支持 ~。

.env 配置 ​

首次启动、容器部署或无 UI 环境可以用 .env 配置大模型。下面是常用示例。

OpenAI:

bash
LLM_PROVIDER=openai
LLM_MODEL=gpt-5.5
OPENAI_API_KEY=sk-...

Qwen:

bash
LLM_PROVIDER=qwen
LLM_MODEL=qwen-plus
QWEN_API_KEY=sk-...

火山方舟豆包:

bash
LLM_PROVIDER=doubao
LLM_MODEL=doubao-seed-2-1-pro-260628
DOUBAO_API_KEY=...

使用其他方舟地域(例如 https://ark.cn-shanghai.volces.com/api/v3)或私有网关时填写 基础地址。客户已有自定义模型或推理接入点时,可在 自定义 Ark 模型 ID 或 Endpoint ID 中填写模型 ID 或 ep-...。 目录外模型无法自动确认能力,因此默认按不启用推理的纯文本模型处理。即使 基础地址 指向其他地域或私有网关,也必须提供真实的方舟 API Key;方舟返回 401 或 403 时, 错误信息会提示检查密钥和模型权限。密钥读取顺序为 DOUBAO_API_KEY、ARK_API_KEY、LLM_API_KEY。VOLCENGINE_SPEECH_APP_ID 和 VOLCENGINE_SPEECH_ACCESS_KEY 只用于语音识别/合成,不能调用方舟大模型。目录中支持推理的 模型只显示推理开关,不显示方舟尚未明确支持的推理等级。

OpenAI 兼容接口:

bash
LLM_PROVIDER=openai-compatible
LLM_MODEL=your-model-id
LLM_BASE_URL=https://llm.example.com/v1
LLM_API_KEY=sk-...

Ollama:

bash
LLM_PROVIDER=ollama
LLM_MODEL=llama3.2
LLM_BASE_URL=http://localhost:11434/v1

Codex 的认证文件和访问令牌示例见 Codex 认证。

本地 .env 值会在每次启动覆盖 .device_agent/config.json。要保留控制台保存值,移除同名变量或保持两边一致,详见配置生效规则。平台服务商、模型和凭据由部署管理员维护,见部署与配置。

大模型要求 ​

快速体验需要模型能够稳定完成结构化生成和工具调用。建议选择支持工具调用、上下文窗口不低于 8K 的模型;设备描述较长或会话中包含较多设备状态时,建议使用 32K 或更大的上下文窗口。

视觉模型 ​

图像输入和独立视觉服务的配置见视觉模型配置。