大模型配置
Device Agent 使用全局配置的大模型生成设备规格、理解对话并调用设备命令,快速体验前需配置一个可用模型;单个智能体的提示词、时区和回复偏好在设备智能体配置中维护。
控制台配置
本地启动后,打开控制台 http://127.0.0.1:3000;平台用户使用交付的控制台地址。进入 设置 → 模型,查看 智能体模型 配置。本地部署可以编辑以下字段,平台部署中的主模型配置只读,需要调整时联系部署管理员。
| 字段 | 说明 |
|---|---|
| 提供商 | 选择大模型服务商。常见入口包括 openai、anthropic、doubao、qwen、moonshotai-cn、ollama、openai-compatible 等。 |
| 模型 | 选择或填写模型 ID。下拉选项来自所选服务商的可用模型列表;openai-compatible 这类自定义入口可以手动填写模型 ID。 |
| 接口密钥 | 填写所选服务商的 API Key。 |
| 基础地址 | 自定义 OpenAI 兼容接口或本地模型服务时填写。openai-compatible 通常需要填写;ollama 未填写时默认使用 http://localhost:11434/v1。 |
| 最大迭代次数 | 单次请求中智能体可执行的最大推理和工具调用轮次,通常保持默认值即可。 |
| 启用推理 | 开启所选模型的推理(思考)能力,默认关闭。仅当前模型支持推理时显示;模型返回思考内容时,聊天中可查看。 |
| 推理等级 | 推理开启后的思考强度,配置范围为 minimal、low、medium(默认)、high、xhigh、max。页面只显示所选模型实际支持的等级;仅支持开/关的模型不显示此选项。 |
保存后,如果页面提示大模型配置需要重启,请重启 Agent Gateway 后继续。
推理与思考内容
复杂分析或需要多步判断的请求可以开启 启用推理。较高等级可能增加等待时间和模型用量,日常查询可先使用默认设置,再根据回答效果调整。模型只支持开关时,页面不会显示等级选择;切换模型后,以新模型提供的选项为准。
模型返回思考内容时,聊天中会显示可展开或收起的思考区域,便于了解当前分析进度。最终回答和工具执行结果用于确认请求结果。

大模型服务商
不同版本、部署方式下可选服务商和模型可能不同,以控制台 设置 → 模型 中显示的列表为准。
常见配置方式如下:
| 类型 | 示例 LLM_PROVIDER | 配置方式 |
|---|---|---|
| OpenAI | openai | 设置 OPENAI_API_KEY。只有使用代理或自定义兼容地址时才填写 基础地址。 |
| Anthropic | anthropic | 设置 ANTHROPIC_API_KEY。 |
| 豆包 / 火山方舟 | doubao | 设置 DOUBAO_API_KEY 或 ARK_API_KEY,默认地址为 https://ark.cn-beijing.volces.com/api/v3。这里需要方舟 API Key,不能使用火山引擎语音的 App ID 或 Access Key。 |
| 其他服务商 | google、deepseek、openrouter、xai、groq、mistral 等 | 在控制台选择服务商和模型,填写 接口密钥。启动前配置时可用 LLM_API_KEY。 |
| OpenAI 兼容接口 | openai-compatible | 填写自定义模型 ID、LLM_BASE_URL 和 LLM_API_KEY。也可以用 OPENAI_API_KEY 提供密钥。 |
| Qwen / DashScope | qwen | 设置 QWEN_API_KEY。默认使用 https://dashscope.aliyuncs.com/compatible-mode/v1。 |
| Kimi | moonshotai-cn | 设置 KIMI_API_KEY。也可以用 OPENAI_API_KEY 作为兼容密钥。默认使用 https://api.moonshot.cn/v1。 |
| Kimi Coding | kimi-coding | 设置 KIMI_API_KEY。 |
| Ollama | ollama | 本地模型服务,默认地址为 http://localhost:11434/v1,通常不需要 API Key。 |
| Cloudflare Workers AI | cloudflare-workers-ai | 填写 Cloudflare 账户 ID 和 接口密钥,选择账户可用的模型。 |
| Cloudflare AI Gateway | cloudflare-ai-gateway | 填写 Cloudflare 账户 ID、Cloudflare AI Gateway ID 和 接口密钥。 |
| Codex | openai-codex | 认证方式特殊,见下方 Codex 说明。 |
此外还提供:
- Google / Google Vertex(
google、google-vertex) - DeepSeek(
deepseek,包括 DeepSeek V4.1 Flash /deepseek-flash) - OpenRouter(
openrouter) - xAI(
xai) - Groq(
groq) - Mistral(
mistral) - Amazon Bedrock(
amazon-bedrock) - Azure OpenAI Responses(
azure-openai-responses) - Vercel AI Gateway(
vercel-ai-gateway) - GitHub Copilot(
github-copilot) - OpenCode(
opencode、opencode-go)
如果已有配置的服务商为 kimi,请在使用前通过控制台或 LLM_PROVIDER 改为 moonshotai-cn,模型 ID 和 API Key 保持不变。kimi-coding 仍是独立的服务商。
常用示例:openai / gpt-5.5、anthropic / claude-sonnet-4-6、qwen / qwen-plus、deepseek / deepseek-flash、ollama / llama3.2。模型能否使用还取决于服务商账户的权限。
Cloudflare 模型服务
选择 Cloudflare Workers AI,填写账户 ID 和接口密钥,使用该账户可访问的模型。选择 Cloudflare AI Gateway 时,还需要填写已创建的 Gateway ID。
本地控制台在对应服务商下显示 Cloudflare 账户 ID 和 Cloudflare AI Gateway ID。启动前也可以设置 CLOUDFLARE_ACCOUNT_ID、CLOUDFLARE_GATEWAY_ID 和 CLOUDFLARE_API_KEY;在页面留空的 ID 可由这些环境变量提供。平台用户由部署管理员配置模型服务。

Codex 认证
openai-codex 不按普通 OpenAI API Key 方式配置。推荐先在运行 Device Agent 的机器上完成 Codex CLI 登录, 让系统读取默认的 ~/.codex/auth.json。也可以使用下面任一方式覆盖:
LLM_PROVIDER=openai-codex
LLM_MODEL=<codex-model-id>
OPENAI_CODEX_AUTH_FILE=/path/to/auth.json或直接提供访问令牌:
LLM_PROVIDER=openai-codex
LLM_MODEL=<codex-model-id>
OPENAI_CODEX_ACCESS_TOKEN=...在控制台中选择 openai-codex 时,普通 接口密钥 字段会作为 Codex 访问令牌覆盖;Codex 认证文件 字段用于指定 auth.json 路径。未填写时会尝试使用 Codex CLI 的默认认证文件。
已经通过 Codex CLI 登录并使用默认认证文件时,可以省略 OPENAI_CODEX_AUTH_FILE。设置该变量时必须使用绝对路径,不支持 ~。
.env 配置
首次启动、容器部署或无 UI 环境可以用 .env 配置大模型。下面是常用示例。
OpenAI:
LLM_PROVIDER=openai
LLM_MODEL=gpt-5.5
OPENAI_API_KEY=sk-...Qwen:
LLM_PROVIDER=qwen
LLM_MODEL=qwen-plus
QWEN_API_KEY=sk-...火山方舟豆包:
LLM_PROVIDER=doubao
LLM_MODEL=doubao-seed-2-1-pro-260628
DOUBAO_API_KEY=...使用其他方舟地域(例如 https://ark.cn-shanghai.volces.com/api/v3)或私有网关时填写 基础地址。客户已有自定义模型或推理接入点时,可在 自定义 Ark 模型 ID 或 Endpoint ID 中填写模型 ID 或 ep-...。 目录外模型无法自动确认能力,因此默认按不启用推理的纯文本模型处理。即使 基础地址 指向其他地域或私有网关,也必须提供真实的方舟 API Key;方舟返回 401 或 403 时, 错误信息会提示检查密钥和模型权限。密钥读取顺序为 DOUBAO_API_KEY、ARK_API_KEY、LLM_API_KEY。VOLCENGINE_SPEECH_APP_ID 和 VOLCENGINE_SPEECH_ACCESS_KEY 只用于语音识别/合成,不能调用方舟大模型。目录中支持推理的 模型只显示推理开关,不显示方舟尚未明确支持的推理等级。
OpenAI 兼容接口:
LLM_PROVIDER=openai-compatible
LLM_MODEL=your-model-id
LLM_BASE_URL=https://llm.example.com/v1
LLM_API_KEY=sk-...Ollama:
LLM_PROVIDER=ollama
LLM_MODEL=llama3.2
LLM_BASE_URL=http://localhost:11434/v1Codex 的认证文件和访问令牌示例见 Codex 认证。
本地 .env 值会在每次启动覆盖 .device_agent/config.json。要保留控制台保存值,移除同名变量或保持两边一致,详见配置生效规则。平台服务商、模型和凭据由部署管理员维护,见部署与配置。
大模型要求
快速体验需要模型能够稳定完成结构化生成和工具调用。建议选择支持工具调用、上下文窗口不低于 8K 的模型;设备描述较长或会话中包含较多设备状态时,建议使用 32K 或更大的上下文窗口。
视觉模型
图像输入和独立视觉服务的配置见视觉模型配置。