Files
skills/llm-hub/SKILL.md
T
hmo 04db423416 Initial commit: skills library
- 70 skills with code and documentation
- Add .gitignore (ignore __pycache__, output/, temp/, venv/)
- Clean up test intermediates and caches
2026-04-26 19:27:40 +08:00

7.0 KiB
Raw Blame History

name, description
name description
llm-hub LLM资源中心。管理多供应商大模型API、本地Ollama模型、额度监控、自动切换配置。当用户需要查询模型、切换API、管理额度时使用此技能。

LLM Hub - 大模型资源管理中心

概述

此技能用于统一管理多供应商的大模型API和本地Ollama模型,提供额度监控、自动切换、账号管理等功能。

触发场景

当用户提及以下内容时激活此技能:

  • "查一下额度"、"看看各平台剩余"
  • "切换模型"、"换一个API"
  • "本地有什么模型"、"Ollama在跑什么"
  • "帮我注册"、"申请新账号"
  • "API配置"、"模型对比"

功能模块

1. 模型发现

本地模型(Ollama

# 列出本地模型
ollama list

# 查看运行状态
ollama ps

# 拉取模型
ollama pull <model-name>

配置文件位置: %USERPROFILE%\.ollama\models

云端模型

支持的供应商和免费额度:

供应商 特点 推荐模型 API端点
火山方舟 Coding Plan ¥7.9/月 doubao-seed-2.0-pro, doubao-seed-code (视觉) https://ark.cn-beijing.volces.com/api/coding/v3
DeepSeek 价格屠夫 deepseek-v3, deepseek-coder https://api.deepseek.com/v1
Groq 免费额度充足 mixtral-8x7b-32768, llama-3.1-70b https://api.groq.com/openai/v1
OpenRouter 有限免费 deepseek/deepseek-r1 https://openrouter.ai/api/v1

2. 额度监控

检查各平台额度

# 火山方舟 - 通过API查询
curl -H "Authorization: Bearer $VOLCENGINE_API_KEY" \
  https://ark.cn-beijing.volces.com/api/coding/v3/usage

# OpenRouter - 通过API查询
curl -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  https://openrouter.ai/api/v1/credits

# DeepSeek - 通过API查询
curl -H "Authorization: Bearer $DEEPSEEK_API_KEY" \
  https://api.deepseek.com/v1/remaining_quota

额度记录

每次使用后更新 references/usage_records.md,记录:

  • 日期时间
  • 供应商
  • 模型
  • 消耗token数
  • 剩余额度

3. 自动切换配置

配置文件

配置文件: config/providers.json

{
  "providers": [
    {
      "name": "volcengine",
      "priority": 1,
      "api_key_env": "VOLCENGINE_API_KEY",
      "base_url": "https://ark.cn-beijing.volces.com/api/coding/v3",
      "models": ["doubao-seed-2.0-pro", "doubao-seed-code"],
      "enabled": true
    },
    {
      "name": "deepseek",
      "priority": 2,
      "api_key_env": "DEEPSEEK_API_KEY",
      "base_url": "https://api.deepseek.com/v1",
      "models": ["deepseek-v3", "deepseek-coder"],
      "enabled": true
    },
    {
      "name": "groq",
      "priority": 3,
      "api_key_env": "GROQ_API_KEY",
      "base_url": "https://api.groq.com/openai/v1",
      "models": ["mixtral-8x7b-32768", "llama-3.1-70b"],
      "enabled": true
    }
  ],
  "current_provider": "volcengine",
  "fallback_enabled": true
}

切换逻辑

当检测到当前供应商额度不足或API报错时:

  1. 自动切换到下一个可用的provider
  2. 记录切换事件到日志
  3. 发送通知(可选)

4. 账号管理

火山方舟账号

当前使用火山方舟 Coding Plan

VOLCENGINE_API_KEY=b0359bed-09f2-49e2-a53c-32ba057412e3

账号记录: references/accounts.md

账号 API Key 套餐 状态
Coding Plan b0359...412e3 ¥7.9/月 正常

新账号注册指引

火山方舟 Coding Plan:

  1. 访问 https://console.volcengine.com/ark/
  2. 注册/登录账号
  3. 开通 Coding Plan 套餐
  4. 获取 API Key

5. 模型对比

场景 推荐模型 原因
代码生成 doubao-seed-code, deepseek-coder 专用模型
中文对话 doubao-pro, deepseek-v3 中文优化
快速响应 groq+mixtral, llama-3.1-8b 延迟低
多模态/视觉 doubao-seed-code Coding Plan唯一视觉模型
免费优先 groq, openrouter免费层 成本最低

使用流程

首次使用

  1. 配置环境变量(见下方)
  2. 运行 python scripts/init_config.py 初始化配置
  3. 查询各平台额度:python scripts/check_quotas.py

日常使用

  1. 查询额度: "帮我查一下各平台额度"
  2. 切换模型: "切换到Groq"
  3. 添加账号: "添加一个新的阿里云账号"

环境变量配置

在系统环境变量或 .env 文件中配置:

# 火山方舟 (Coding Plan)
VOLCENGINE_API_KEY=b0359bed-09f2-49e2-a53c-32ba057412e3

# DeepSeek
DEEPSEEK_API_KEY=sk-xxx

# Groq
GROQ_API_KEY=gsk_xxx

# OpenRouter
OPENROUTER_API_KEY=sk-xxx

OpenCode 配置

要在 OpenCode 的 /models 中添加火山方舟:

方法1:使用环境变量

# 在系统环境变量中设置
VOLCENGINE_API_KEY=b0359bed-09f2-49e2-a53c-32ba057412e3

方法2:配置文件(推荐)

火山方舟已在 ~/.config/opencode/config.json 中配置:

{
  "provider": {
    "volcengine": {
      "npm": "@ai-sdk/openai-compatible",
      "options": {
        "baseURL": "https://ark.cn-beijing.volces.com/api/coding/v3",
        "apiKey": "b0359bed-09f2-49e2-a53c-32ba057412e3"
      },
      "models": {
        "doubao-seed-2.0-pro": {},
        "doubao-seed-2.0-code": {},
        "doubao-seed-2.0-lite": {},
        "doubao-seed-code": {}
      }
    },
    "deepseek": {
      "npm": "@ai-sdk/openai-compatible",
      "options": {
        "baseURL": "https://api.deepseek.com/v1"
      },
      "models": {
        "deepseek-chat": {},
        "deepseek-coder": {}
      }
    }
  }
}

配置步骤

  1. 创建/编辑配置文件:
# Windows
notepad %USERPROFILE%\.config\opencode\opencode.json

# 或用 VS Code
code %USERPROFILE%\.config\opencode\opencode.json
  1. 添加 API Key(两种方式):

    方式A:写到配置里(不安全)

    {
      "provider": {
        "dashscope": {
          "options": {
            "apiKey": "sk-56a8e427c3f7403a90e2cf22f1b9d842"
          }
        }
      }
    }
    

    方式B:用环境变量(推荐)

    • 设置系统环境变量 DASHSCOPE_API_KEY
  2. 重启 OpenCode,运行 /models 刷新模型列表

文件结构

llm-hub/
├── SKILL.md                    # 本文件
├── config/
│   └── providers.json           # 供应商配置
├── references/
│   ├── usage_records.md        # 使用记录
│   ├── accounts.md             # 账号管理
│   └── model_comparison.md     # 模型对比表
├── scripts/
│   ├── check_quotas.py         # 查询额度
│   ├── switch_provider.py      # 切换供应商
│   ├── add_account.py          # 添加账号
│   └── init_config.py          # 初始化配置
└── .env.example                # 环境变量示例

注意事项

  1. 火山方舟 Coding Plan - 主要供应商,视觉模型用 doubao-seed-code
  2. API Key 安全 - 不要提交到Git
  3. 额度告警 - 低于10%时提醒切换
  4. 轮询机制 - 多个账号时轮换使用