Files
linkong e65267fe21
Some checks failed
ci / backend (push) Has been cancelled
ci / frontend (push) Has been cancelled
release / images (push) Has been cancelled
ci / delivery (push) Has been cancelled
release: bump version to 0.65.2
2026-05-22 21:37:38 +08:00
..
2026-05-10 22:06:01 +08:00
2026-05-16 05:02:05 +08:00
2026-05-22 21:37:38 +08:00
2026-05-21 01:37:32 +08:00
2026-04-20 15:14:53 +08:00
2026-05-16 05:02:05 +08:00

AI Provider Service

aiprovider 是独立的模型适配服务,负责把项目内部的分析请求转发到具体的大模型供应商。

完整使用说明见:

当前支持:

  • provider identity:
    • AI_PROVIDER=openai
    • AI_PROVIDER=anthropic
    • AI_PROVIDER=minimax
    • AI_PROVIDER=ollama
  • request adapter:
    • AI_PROVIDER_API=openai-completions
    • AI_PROVIDER_API=anthropic-messages
    • AI_PROVIDER_API=ollama-generate

兼容别名仍然保留:

  • openai_compatible
  • anthropic_compatible
  • claude_compatible

典型配置:

AI_PROVIDER=openai
AI_PROVIDER_API=openai-completions
AI_BASE_URL=https://api.openai.com/v1
AI_API_KEY=your_api_key
AI_MODEL=gpt-4o-mini
AI_TIMEOUT_SECONDS=60
AI_PROVIDER_SERVICE_TOKEN=change_me

MiniMax 中国大陆节点示例:

AI_PROVIDER=minimax
AI_PROVIDER_API=anthropic-messages
AI_BASE_URL=https://api.minimaxi.com/anthropic
AI_API_KEY=sk-cp-xxxxx
AI_MODEL=MiniMax-M2.7
AI_TIMEOUT_SECONDS=60
AI_MAX_TOKENS=1200
AI_ANTHROPIC_VERSION=2023-06-01
AI_PROVIDER_SERVICE_TOKEN=change_me

适用场景:

  • Anthropic 官方 Claude API
  • Claude 兼容网关
  • MiniMax 等提供 Anthropic Messages 风格接口的服务

这套命名方式参考了 OpenClaw 的接入模式: provider 负责标识供应商, AI_PROVIDER_API 负责标识协议适配层, 避免把“供应商”和“协议”绑死在一起。

Ollama 原生示例:

AI_PROVIDER=ollama
AI_PROVIDER_API=ollama-generate
AI_BASE_URL=http://127.0.0.1:11434
AI_API_KEY=
AI_MODEL=qwen2.5:7b
AI_TIMEOUT_SECONDS=60
AI_PROVIDER_SERVICE_TOKEN=change_me

本地模型接入建议:

  • vLLMLM StudioOne APIAI_PROVIDER=openai + AI_PROVIDER_API=openai-completions
  • MiniMax、Claude 兼容网关:AI_PROVIDER=minimax|anthropic + AI_PROVIDER_API=anthropic-messages
  • Ollama:可直接使用 ollama

启动模板:

  • aiprovider/.env.example
  • docker-compose.local-model.yml

跨服务调用补充:

  • 业务服务优先调用主后端 /api/v1/ai/...
  • 直接调用 aiprovider 时使用 X-Provider-Token
  • 支持 X-Request-ID 透传
  • 内置轻量重试,适合跨机器 HTTP RPC 场景

接口:

  • GET /health
  • GET /v1/provider/status
  • POST /v1/analyze