Skip to main content

LLM 提供商概览

Elftia 的 LLM 提供商系统让你可以连接多个大语言模型服务,通过统一的 API 抽象在不同提供商之间无缝切换,无需关心底层 API 格式差异。

何时使用

  • 需要接入新的 LLM 服务(如 OpenAI、Anthropic、DeepSeek 等)
  • 想在同一个应用中使用多个提供商的模型
  • 需要连接本地部署的模型(如 Ollama、LM Studio)
  • 想通过 API Key 池化实现高可用和负载均衡

核心概念

提供商 (Provider)

提供商是一个 LLM API 服务的配置单元。每个提供商包含以下关键信息:

概念说明示例
名称提供商的显示名称OpenAI、DeepSeek、智谱 GLM
API 格式提供商使用的 API 协议格式openai、anthropic、google
Base URLAPI 请求的基础地址https://api.openai.com/v1/chat/completions
API Key身份验证密钥sk-... 或环境变量引用 $OPENAI_API_KEY
模型列表该提供商可用的模型gpt-4o、claude-sonnet-4-5、gemini-3-pro

API 格式 (API Format)

Elftia 支持 5 种 API 格式,通过内置的格式转换器 (Transformer) 自动处理请求和响应的格式差异:

API 格式说明使用者
openaiOpenAI Chat Completions 格式 (/v1/chat/completions)OpenAI、DeepSeek、智谱、Ollama、Groq 等大多数提供商
anthropicAnthropic Messages 格式 (/v1/messages)Anthropic 官方、MiniMax
googleGoogle Gemini 格式Google Gemini
azure-openaiAzure OpenAI 格式(与 OpenAI 相同,认证方式不同)Azure OpenAI Service
openai-responseOpenAI Responses API 格式 (/v1/responses)OpenAI 新版 Responses API

模型 (Model)

每个提供商下可以配置多个模型。模型配置包含:

  • 模型 ID:调用 API 时使用的标识符(如 gpt-4o
  • 显示名称:在界面上展示的名称(如 GPT-4o
  • 类别:chat(聊天)、reasoning(推理)、code(编码)、image(图像)等
  • 能力标记:是否支持视觉 (vision)、函数调用 (function call)、推理模式 (reasoning)、网络搜索 (web search)
  • 上下文长度:模型支持的最大输入 token 数
  • 最大输出:模型单次生成的最大 token 数

API Key

API Key 是访问提供商服务的身份凭证。Elftia 支持两种方式配置 API Key:

  1. 直接输入:在设置界面直接粘贴 API Key
  2. 环境变量引用:以 $ 开头引用系统环境变量(如 $OPENAI_API_KEY),适用于不希望将密钥存储在应用配置中的场景

请求处理流程

用户发送消息后,Elftia 按以下流程处理请求:

用户发送消息
|
v
选择提供商和模型
|
v
解析 API Key(直接值 / 环境变量 / Key 池)
|
v
格式转换器:将统一请求转为目标 API 格式
| (openai / anthropic / google / ...)
v
发送请求到提供商 API
|
v
格式转换器:将提供商响应转为统一格式
|
v
渲染响应到聊天界面

默认提供商列表

Elftia 预装了以下提供商模板,首次启动时会自动创建(默认未启用,需填入 API Key 后启用):

提供商API 格式Base URL特点
DeepSeekopenaihttps://api.deepseek.com/v1高性价比,支持推理模式
OpenRouteropenaihttps://openrouter.ai/api/v1聚合 200+ 模型,统一计费
SiliconFlowopenaihttps://api.siliconflow.cn/v1国内加速,开源模型托管
OpenAIopenaihttps://api.openai.com/v1/chat/completionsGPT 系列、o 系列推理模型
Anthropicanthropichttps://api.anthropic.com/v1/messagesClaude 系列,原生思维链
Google Geminigooglehttps://generativelanguage.googleapis.com/v1beta/models/超长上下文(100 万 token)
智谱 GLMopenaihttps://api.z.ai/api/paas/v4GLM 系列,支持 Coding Plan
Moonshot (Kimi)openaihttps://api.moonshot.ai/v1Kimi K2.5,超长上下文
阿里云百炼openaihttps://dashscope.aliyuncs.com/compatible-mode/v1Qwen 系列,100 万 token
Ollamaopenaihttp://localhost:11434/v1本地部署,完全离线
Groqopenaihttps://api.groq.com/openai/v1极速推理,低延迟
Claude Codeanthropichttps://api.anthropic.com/v1/messagesClaude Agent SDK 集成

除以上默认提供商外,Elftia 还提供更多中国云平台的预设模板(火山方舟、腾讯云混元、百度千帆、MiniMax、快手 KwaiKAT、摩尔线程等),可在「添加提供商」界面中选择。

可配置项参考

配置项类型默认值说明
提供商名称字符串(模板名称)显示名称,可自定义
API 格式枚举openaiopenai / anthropic / google / azure-openai / openai-response
Base URLURL(因模板而异)API 请求地址
API Key字符串(空)支持 $ 前缀引用环境变量
模型列表数组(因模板而异)可手动添加或通过模型发现自动获取
启用状态布尔false是否在模型选择列表中显示
Transformer对象(因格式而异)请求/响应格式转换器配置
默认参数对象temperature: 0.7提供商级别的默认生成参数
API 超时毫秒(全局设置)单次请求超时时间
并发限制数字(因提供商而异)Agent 代理的最大并发请求数

行为说明

提供商启用与禁用

  • 禁用的提供商不会出现在模型选择下拉列表中
  • 禁用提供商不会删除其配置,重新启用后所有设置保持不变
  • 如果当前会话正在使用某个提供商的模型,禁用该提供商后,已有会话不受影响,但新的消息将无法使用该模型

模型发现

部分提供商支持模型发现 (Model Discovery) 功能:Elftia 会调用提供商的模型列表 API(如 /v1/models)自动获取可用模型。支持模型发现的提供商包括 OpenAI、Anthropic、Gemini、智谱等。

环境变量 API Key

当 API Key 以 $ 开头时,Elftia 会在运行时从系统环境变量中读取实际值。例如:

  • 配置 $OPENAI_API_KEY → 运行时读取 process.env.OPENAI_API_KEY
  • 如果环境变量不存在,请求将因认证失败而报错

格式转换器

格式转换器 (Transformer) 是 Elftia 实现多 API 格式支持的核心机制。每个非 OpenAI 格式的提供商都会配置对应的转换器:

提供商类型转换器作用
Anthropic 官方anthropic保持 Anthropic Messages 格式,处理思维链
Google Geminigemini将请求转换为 Gemini 格式
OpenAI Responsesopenai-response适配 /v1/responses 端点
OpenRouteropenrouter处理提供商路由配置
DeepSeekdeepseek处理 DeepSeek 特有的推理字段
Groqgroq适配 Groq 的参数限制

Troubleshooting

问题可能原因解决方案
提供商不在模型选择列表中提供商未启用进入提供商设置,开启启用开关
请求返回 401 错误API Key 无效或过期检查并更新 API Key,确认 Key 有足够额度
请求返回 403 错误API Key 权限不足检查 API Key 是否有权限访问所选模型
环境变量 Key 无效环境变量名称错误或未设置在系统中确认环境变量已设置并重启 Elftia
请求超时网络不通或提供商服务故障检查网络连接,确认 Base URL 正确,尝试使用代理
模型列表为空提供商不支持模型发现或 Key 无效手动添加模型,或检查 API Key 是否正确
响应格式异常Transformer 配置不匹配确认 API 格式选择正确,检查是否需要特定 Transformer
中文提供商连接慢网络延迟确认使用正确的国内 Base URL,检查代理设置

相关页面