forked from DevOps/deploy.stack
fix(honcho): embedding 升 Qwen3-8B 并 force dimensions=1536 兼容旧 schema
- vm61 数据库 public.documents.embedding dim 是 1536(旧 OpenAI 部署遗留) - Qwen3-Embedding-8B 默认 4096 维,撞 schema 不匹配导致 honcho-api 启动失败 - 通过 SiliconFlow OpenAI 兼容 API 的 dimensions 参数强制输出 1536 - env.cfg + stack.yml + readme 全部同步更新 - docker compose config 校验通过,vm61 honcho-api /health HTTP 200
This commit is contained in:
@@ -49,7 +49,7 @@ HONCHO_NAMESPACE=honcho
|
||||
# 关闭可省 embedding 费用(但失去语义检索能力)
|
||||
HONCHO_EMBED_MESSAGES=true
|
||||
# Embedding 模型(默认走 SiliconFlow 兼容端点,独立 base URL)
|
||||
HONCHO_EMBEDDING_MODEL=Qwen/Qwen3-Embedding-0.6B
|
||||
HONCHO_EMBEDDING_MODEL=Qwen/Qwen3-Embedding-8B
|
||||
HONCHO_EMBEDDING_BASE_URL=https://api.siliconflow.cn/v1
|
||||
# 替代方案 A:本地 Ollama(零成本、隐私优先)
|
||||
# HONCHO_EMBEDDING_MODEL=qwen3-embedding:0.6b
|
||||
@@ -57,8 +57,9 @@ HONCHO_EMBEDDING_BASE_URL=https://api.siliconflow.cn/v1
|
||||
# EMBEDDING_API_KEY 可留空(Ollama 默认无 key;如配了 OLLAMA_API_KEY 环境变量再填)
|
||||
# 前置:宿主机 `ollama pull qwen3-embedding:0.6b`
|
||||
# docker compose 中 host.docker.internal 在 Linux compose v2 默认可用,Windows/WSL2 自动转发
|
||||
# Embedding 维度(Qwen3-Embedding-0.6B 默认 1024,必须与 DB schema 一致)
|
||||
# 若 Honcho 自动推断失败,需在 stack.yml 同步设置 EMBEDDING_VECTOR_DIMENSIONS=1024
|
||||
# Embedding 维度(Qwen3-Embedding-8B 默认 4096,但通过 SiliconFlow 的 dimensions 参数强制输出 1536)
|
||||
# 必须与已有 DB schema 的 public.documents.embedding dim 一致;切换模型必须先 migrate 旧数据
|
||||
# 若 Honcho 自动推断失败,需在 stack.yml 同步设置 EMBEDDING_VECTOR_DIMENSIONS=1536
|
||||
# deriver 必须用支持 tool calling 的模型
|
||||
HONCHO_DERIVER_MODEL=gpt-5.4-mini
|
||||
HONCHO_DERIVER_WORKERS=1
|
||||
|
||||
Reference in New Issue
Block a user