forked from DevOps/deploy.stack
fix(honcho): embedding 升 Qwen3-8B 并 force dimensions=1536 兼容旧 schema
- vm61 数据库 public.documents.embedding dim 是 1536(旧 OpenAI 部署遗留) - Qwen3-Embedding-8B 默认 4096 维,撞 schema 不匹配导致 honcho-api 启动失败 - 通过 SiliconFlow OpenAI 兼容 API 的 dimensions 参数强制输出 1536 - env.cfg + stack.yml + readme 全部同步更新 - docker compose config 校验通过,vm61 honcho-api /health HTTP 200
This commit is contained in:
+5
-5
@@ -37,7 +37,7 @@ flowchart TB
|
||||
hermes["Hermes Agent<br/>memory.provider=honcho"]
|
||||
sdk["Python / TS SDK<br/>(honcho-ai / @honcho-ai/sdk)"]
|
||||
tools["DBeaver / psql<br/>PG 5432 直连"]
|
||||
siliconflow["SiliconFlow<br/>api.siliconflow.cn/v1<br/>Qwen3-Embedding-0.6B<br/>(云端默认)"]
|
||||
siliconflow["SiliconFlow<br/>api.siliconflow.cn/v1<br/>Qwen3-Embedding-8B<br/>dimensions=1536<br/>(云端默认)"]
|
||||
ollama["本地 Ollama<br/>host.docker.internal:11434<br/>qwen3-embedding:0.6b<br/>(备选,零成本)"]
|
||||
end
|
||||
|
||||
@@ -53,8 +53,8 @@ flowchart TB
|
||||
api -->|:6379| redis
|
||||
deriver -->|:6379| redis
|
||||
deriver -.->|轮询<br/>pending messages| api
|
||||
api -->|HTTPS embedding<br/>Qwen3-0.6B| siliconflow
|
||||
deriver -->|HTTPS embedding<br/>Qwen3-0.6B| siliconflow
|
||||
api -->|HTTPS embedding<br/>Qwen3-8B 1536d| siliconflow
|
||||
deriver -->|HTTPS embedding<br/>Qwen3-8B 1536d| siliconflow
|
||||
|
||||
database --- pgdata
|
||||
redis --- redisdata
|
||||
@@ -117,7 +117,7 @@ flowchart TB
|
||||
| `HONCHO_AUTH_USE_AUTH` | `false` | 是否启用 JWT 鉴权(生产建议 `true`) |
|
||||
| `HONCHO_NAMESPACE` | `honcho` | 全局命名空间前缀 |
|
||||
| `HONCHO_EMBED_MESSAGES` | `true` | 是否对消息做向量化(关闭可省 embedding 费用) |
|
||||
| `HONCHO_EMBEDDING_MODEL` | `Qwen/Qwen3-Embedding-0.6B` | Embedding 模型名(默认 SiliconFlow,可换本地 Ollama) |
|
||||
| `HONCHO_EMBEDDING_MODEL` | `Qwen/Qwen3-Embedding-8B` | Embedding 模型名(默认 SiliconFlow,可换本地 Ollama) |
|
||||
| `HONCHO_EMBEDDING_BASE_URL` | `https://api.siliconflow.cn/v1` | Embedding API Base URL(OpenAI 兼容;Ollama 改 `http://host.docker.internal:11434/v1`) |
|
||||
| `HONCHO_DERIVER_MODEL` | `gpt-5.4-mini` | Deriver 用的 LLM 模型(必须支持 tool calling) |
|
||||
| `HONCHO_LLM_BASE_URL` | `https://api.openai.com/v1` | LLM API Base URL(OpenAI 兼容端点即可) |
|
||||
@@ -208,7 +208,7 @@ docker compose -p honcho --env-file ./honcho/env.cfg -f ./honcho/stack.yml resta
|
||||
| 数据卷方案 | bind 挂载到 `${Volumes_Path}/{pgdata,redis,source}` | 直观、可直接 `rsync`/`pg_dump`、跨机迁移用 `tar` 整个目录即可 |
|
||||
| 端口绑定 | 0.0.0.0,含 DB 5432 | PVE LAN 上其他 VM 也可访问;DB 端口暴露方便外部工具(DBeaver 等)连接 |
|
||||
| 认证 | 默认 `HONCHO_AUTH_USE_AUTH=false`(dev 模式) | 本地 LAN 自用,跳过 JWT 校验;公网暴露必须改 `true` |
|
||||
| LLM 默认 | `gpt-5.4-mini`(主 LLM,OpenAI 兼容);embedding 默认 `Qwen/Qwen3-Embedding-0.6B` 走 SiliconFlow;**备选** 本地 Ollama `qwen3-embedding:0.6b`(零成本、隐私优先) | LLM 走 OpenAI 兼容;embedding 双轨:SiliconFlow(云端,独立 base URL) / Ollama(本地 `host.docker.internal:11434/v1`) |
|
||||
| LLM 默认 | `gpt-5.4-mini`(主 LLM,OpenAI 兼容);embedding 默认 `Qwen/Qwen3-Embedding-8B`(dimensions=1536 强制输出,兼容已有 1536 维 schema)走 SiliconFlow;**备选** 本地 Ollama `qwen3-embedding:0.6b`(零成本、隐私优先) | LLM 走 OpenAI 兼容;embedding 双轨:SiliconFlow(云端,独立 base URL) / Ollama(本地 `host.docker.internal:11434/v1`) |
|
||||
| Honcho 版本 | 默认 `main`(源码 build),可锁 tag 如 `v3.0.10` | 当前最新稳定版 v3.0.x,支持 peer card、dialectic、dream consolidation |
|
||||
| deriver 必须 | api + deriver 双容器 | deriver 是后台推理 worker,没它记忆功能不工作 |
|
||||
| PG 认证 | `scram-sha-256` | 比 md5 更安全,`POSTGRES_INITDB_ARGS` 同步设置 `--auth-host` |
|
||||
|
||||
Reference in New Issue
Block a user