04db423416
- 70 skills with code and documentation - Add .gitignore (ignore __pycache__, output/, temp/, venv/) - Clean up test intermediates and caches
7.0 KiB
7.0 KiB
name, description
| name | description |
|---|---|
| llm-hub | LLM资源中心。管理多供应商大模型API、本地Ollama模型、额度监控、自动切换配置。当用户需要查询模型、切换API、管理额度时使用此技能。 |
LLM Hub - 大模型资源管理中心
概述
此技能用于统一管理多供应商的大模型API和本地Ollama模型,提供额度监控、自动切换、账号管理等功能。
触发场景
当用户提及以下内容时激活此技能:
- "查一下额度"、"看看各平台剩余"
- "切换模型"、"换一个API"
- "本地有什么模型"、"Ollama在跑什么"
- "帮我注册"、"申请新账号"
- "API配置"、"模型对比"
功能模块
1. 模型发现
本地模型(Ollama)
# 列出本地模型
ollama list
# 查看运行状态
ollama ps
# 拉取模型
ollama pull <model-name>
配置文件位置: %USERPROFILE%\.ollama\models
云端模型
支持的供应商和免费额度:
| 供应商 | 特点 | 推荐模型 | API端点 |
|---|---|---|---|
| 火山方舟 | Coding Plan ¥7.9/月 | doubao-seed-2.0-pro, doubao-seed-code (视觉) | https://ark.cn-beijing.volces.com/api/coding/v3 |
| DeepSeek | 价格屠夫 | deepseek-v3, deepseek-coder | https://api.deepseek.com/v1 |
| Groq | 免费额度充足 | mixtral-8x7b-32768, llama-3.1-70b | https://api.groq.com/openai/v1 |
| OpenRouter | 有限免费 | deepseek/deepseek-r1 | https://openrouter.ai/api/v1 |
2. 额度监控
检查各平台额度
# 火山方舟 - 通过API查询
curl -H "Authorization: Bearer $VOLCENGINE_API_KEY" \
https://ark.cn-beijing.volces.com/api/coding/v3/usage
# OpenRouter - 通过API查询
curl -H "Authorization: Bearer $OPENROUTER_API_KEY" \
https://openrouter.ai/api/v1/credits
# DeepSeek - 通过API查询
curl -H "Authorization: Bearer $DEEPSEEK_API_KEY" \
https://api.deepseek.com/v1/remaining_quota
额度记录
每次使用后更新 references/usage_records.md,记录:
- 日期时间
- 供应商
- 模型
- 消耗token数
- 剩余额度
3. 自动切换配置
配置文件
配置文件: config/providers.json
{
"providers": [
{
"name": "volcengine",
"priority": 1,
"api_key_env": "VOLCENGINE_API_KEY",
"base_url": "https://ark.cn-beijing.volces.com/api/coding/v3",
"models": ["doubao-seed-2.0-pro", "doubao-seed-code"],
"enabled": true
},
{
"name": "deepseek",
"priority": 2,
"api_key_env": "DEEPSEEK_API_KEY",
"base_url": "https://api.deepseek.com/v1",
"models": ["deepseek-v3", "deepseek-coder"],
"enabled": true
},
{
"name": "groq",
"priority": 3,
"api_key_env": "GROQ_API_KEY",
"base_url": "https://api.groq.com/openai/v1",
"models": ["mixtral-8x7b-32768", "llama-3.1-70b"],
"enabled": true
}
],
"current_provider": "volcengine",
"fallback_enabled": true
}
切换逻辑
当检测到当前供应商额度不足或API报错时:
- 自动切换到下一个可用的provider
- 记录切换事件到日志
- 发送通知(可选)
4. 账号管理
火山方舟账号
当前使用火山方舟 Coding Plan:
VOLCENGINE_API_KEY=b0359bed-09f2-49e2-a53c-32ba057412e3
账号记录: references/accounts.md
| 账号 | API Key | 套餐 | 状态 |
|---|---|---|---|
| Coding Plan | b0359...412e3 | ¥7.9/月 | 正常 |
新账号注册指引
火山方舟 Coding Plan:
- 访问 https://console.volcengine.com/ark/
- 注册/登录账号
- 开通 Coding Plan 套餐
- 获取 API Key
5. 模型对比
| 场景 | 推荐模型 | 原因 |
|---|---|---|
| 代码生成 | doubao-seed-code, deepseek-coder | 专用模型 |
| 中文对话 | doubao-pro, deepseek-v3 | 中文优化 |
| 快速响应 | groq+mixtral, llama-3.1-8b | 延迟低 |
| 多模态/视觉 | doubao-seed-code | Coding Plan唯一视觉模型 |
| 免费优先 | groq, openrouter免费层 | 成本最低 |
使用流程
首次使用
- 配置环境变量(见下方)
- 运行
python scripts/init_config.py初始化配置 - 查询各平台额度:
python scripts/check_quotas.py
日常使用
- 查询额度: "帮我查一下各平台额度"
- 切换模型: "切换到Groq"
- 添加账号: "添加一个新的阿里云账号"
环境变量配置
在系统环境变量或 .env 文件中配置:
# 火山方舟 (Coding Plan)
VOLCENGINE_API_KEY=b0359bed-09f2-49e2-a53c-32ba057412e3
# DeepSeek
DEEPSEEK_API_KEY=sk-xxx
# Groq
GROQ_API_KEY=gsk_xxx
# OpenRouter
OPENROUTER_API_KEY=sk-xxx
OpenCode 配置
要在 OpenCode 的 /models 中添加火山方舟:
方法1:使用环境变量
# 在系统环境变量中设置
VOLCENGINE_API_KEY=b0359bed-09f2-49e2-a53c-32ba057412e3
方法2:配置文件(推荐)
火山方舟已在 ~/.config/opencode/config.json 中配置:
{
"provider": {
"volcengine": {
"npm": "@ai-sdk/openai-compatible",
"options": {
"baseURL": "https://ark.cn-beijing.volces.com/api/coding/v3",
"apiKey": "b0359bed-09f2-49e2-a53c-32ba057412e3"
},
"models": {
"doubao-seed-2.0-pro": {},
"doubao-seed-2.0-code": {},
"doubao-seed-2.0-lite": {},
"doubao-seed-code": {}
}
},
"deepseek": {
"npm": "@ai-sdk/openai-compatible",
"options": {
"baseURL": "https://api.deepseek.com/v1"
},
"models": {
"deepseek-chat": {},
"deepseek-coder": {}
}
}
}
}
配置步骤
- 创建/编辑配置文件:
# Windows
notepad %USERPROFILE%\.config\opencode\opencode.json
# 或用 VS Code
code %USERPROFILE%\.config\opencode\opencode.json
-
添加 API Key(两种方式):
方式A:写到配置里(不安全)
{ "provider": { "dashscope": { "options": { "apiKey": "sk-56a8e427c3f7403a90e2cf22f1b9d842" } } } }方式B:用环境变量(推荐)
- 设置系统环境变量
DASHSCOPE_API_KEY
- 设置系统环境变量
-
重启 OpenCode,运行
/models刷新模型列表
文件结构
llm-hub/
├── SKILL.md # 本文件
├── config/
│ └── providers.json # 供应商配置
├── references/
│ ├── usage_records.md # 使用记录
│ ├── accounts.md # 账号管理
│ └── model_comparison.md # 模型对比表
├── scripts/
│ ├── check_quotas.py # 查询额度
│ ├── switch_provider.py # 切换供应商
│ ├── add_account.py # 添加账号
│ └── init_config.py # 初始化配置
└── .env.example # 环境变量示例
注意事项
- 火山方舟 Coding Plan - 主要供应商,视觉模型用
doubao-seed-code - API Key 安全 - 不要提交到Git
- 额度告警 - 低于10%时提醒切换
- 轮询机制 - 多个账号时轮换使用