feat(honcho): embedding 切换 SiliconFlow Qwen3-0.6B 支持 Ollama 备选

- embedding 默认走 SiliconFlow Qwen3-Embedding-0.6B(独立 base URL)
- env.cfg.example 加 Ollama 备选注释块(host.docker.internal:11434)
- stack.yml api+deriver 双服务 EMBEDDING_* 配置同步
- api 段 EMBEDDING_API_KEY 用 :- 默认空,兼容 Ollama 无 key 场景
- readme Mermaid 架构图加 siliconflow + ollama 节点
- HONCHO_DERIVER_MODEL 默认值 gpt-4o-mini → gpt-5.4-mini(与上游对齐)
This commit is contained in:
2026-06-19 15:12:50 +08:00
parent 48b52ca21c
commit 9c08233d4e
3 changed files with 40 additions and 14 deletions
+16 -4
View File
@@ -48,7 +48,17 @@ HONCHO_AUTH_USE_AUTH=false
HONCHO_NAMESPACE=honcho
# 关闭可省 embedding 费用(但失去语义检索能力)
HONCHO_EMBED_MESSAGES=true
HONCHO_EMBEDDING_MODEL=text-embedding-3-small
# Embedding 模型(默认走 SiliconFlow 兼容端点,独立 base URL
HONCHO_EMBEDDING_MODEL=Qwen/Qwen3-Embedding-0.6B
HONCHO_EMBEDDING_BASE_URL=https://api.siliconflow.cn/v1
# 替代方案 A:本地 Ollama(零成本、隐私优先)
# HONCHO_EMBEDDING_MODEL=qwen3-embedding:0.6b
# HONCHO_EMBEDDING_BASE_URL=http://host.docker.internal:11434/v1
# EMBEDDING_API_KEY 可留空(Ollama 默认无 key;如配了 OLLAMA_API_KEY 环境变量再填)
# 前置:宿主机 `ollama pull qwen3-embedding:0.6b`
# docker compose 中 host.docker.internal 在 Linux compose v2 默认可用,Windows/WSL2 自动转发
# Embedding 维度(Qwen3-Embedding-0.6B 默认 1024,必须与 DB schema 一致)
# 若 Honcho 自动推断失败,需在 stack.yml 同步设置 EMBEDDING_VECTOR_DIMENSIONS=1024
# deriver 必须用支持 tool calling 的模型
HONCHO_DERIVER_MODEL=gpt-5.4-mini
HONCHO_DERIVER_WORKERS=1
@@ -61,7 +71,9 @@ HONCHO_LLM_BASE_URL=https://api.openai.com/v1
# ============================================================
# 敏感值(必填,env.cfg 不提交)— 在 .gitignore 已忽略
# 占位符约定:REPLACE_ME_XXX → 替换为真实值(避免使用 <...> 占位符,patch 工具链会吞)
# ============================================================
# HONCHO_LLM_API_KEY=<你的 OpenAI key 或兼容端点 key>
# HONCHO_DB_PASSWORD=<强密码,不要带特殊字符,避免 URI 编码问题>
# HONCHO_AUTH_JWT_SECRET=<仅 AUTH_USE_AUTH=true 时需要;用 python scripts/generate_jwt_secret.py 生成>
# HONCHO_LLM_API_KEY=REPLACE_ME_LLM_KEY # 你的 OpenAI key 或兼容端点 key
# HONCHO_EMBEDDING_API_KEY=REPLACE_ME_EMBEDDING_KEY # SiliconFlow keyhttps://cloud.siliconflow.cn/account/ak
# HONCHO_DB_PASSWORD=REPLACE_ME_DB_PASSWORD # 强密码,不要带特殊字符,避免 URI 编码问题
# HONCHO_AUTH_JWT_SECRET=REPLACE_ME_JWT_SECRET # 仅 AUTH_USE_AUTH=true 时需要;用 python scripts/generate_jwt_secret.py 生成