Files
deerflow-code/deploy/linux-docker-offline-deerflow-only/docs/13-wheelhouse离线新增依赖与多模型.md
T

99 lines
3.4 KiB
Markdown

# wheelhouse 离线新增依赖与多模型配置
## 一、数据库固定使用 aiomysql
部署脚本生成的连接地址为:
```text
mysql+aiomysql://用户名:编码后的密码@主机:端口/数据库?charset=utf8mb4
```
镜像和 `source/wheelhouse` 都预置兼容组:
```text
aiomysql==0.3.2
PyMySQL==1.2.0
SQLAlchemy==2.0.51
```
这三个版本必须作为整体保留,避免出现 SQLAlchemy 的 `ping(reconnect)` 适配错误。人工只填写 `MYSQL_HOST`、`MYSQL_PORT`、`MYSQL_DATABASE`、`MYSQL_USER`、`MYSQL_PASSWORD`;不要直接编辑生成的数据库 URL。
## 二、以后怎样离线增加 Python 依赖
部署目录:
```text
source/wheelhouse/
├── requirements.txt
├── README.txt
├── *.whl
└── SHA256SUMS
```
后端镜像是 Python 3.12、Linux amd64。新增的 wheel 必须匹配该平台;常见可用标签是 `py3-none-any`、`cp312-manylinux2014_x86_64` 或兼容的 manylinux x86_64。Windows wheel、macOS wheel、ARM64 wheel、源码包 `.tar.gz` 均不能使用。
在联网的 Linux amd64/Python 3.12 机器下载示例:
```bash
mkdir -p new-wheels
python3.12 -m pip download \
--only-binary=:all: \
--platform manylinux2014_x86_64 \
--implementation cp \
--python-version 312 \
--abi cp312 \
--dest new-wheels \
'your-package==1.2.3'
```
将 `new-wheels/` 中目标包及其全部依赖的 `.whl` 上传到 `source/wheelhouse/`,然后在 `source/wheelhouse/requirements.txt` 增加:
```text
your-package==1.2.3
```
执行:
```bash
./OFFLINE_INSTALL.sh --restart
```
脚本只使用 `--no-index --find-links /app/wheelhouse`,不会访问互联网。它会计算 `requirements.txt` 和所有 wheel 的指纹;内容未变化时跳过安装,内容变化时安装到持久卷 `deerflow-python-vendor`。重建、停止或重启容器不会丢失已安装依赖,也不会修改基础镜像。
如果安装时报 `No matching distribution found`,通常是缺少传递依赖 wheel、wheel 平台不匹配,或 `requirements.txt` 中版本与文件名不一致。补齐后再次执行 `--restart` 即可;安装失败时后端不会被切换到半完成的新进程。
## 三、配置多个模型
`config/deploy.env` 是唯一配置源。示例文件已经给出三套模型块,使用:
```dotenv
DEERFLOW_MODEL_COUNT=2
DEERFLOW_MODEL_1_NAME=general-model
DEERFLOW_MODEL_1_DISPLAY_NAME=通用模型
DEERFLOW_MODEL_1_MODEL=provider-real-model-id
DEERFLOW_MODEL_1_BASE_URL=http://10.10.10.25:8000/v1
DEERFLOW_MODEL_1_API_KEY=replace-with-real-key-1
DEERFLOW_MODEL_1_SUPPORTS_VISION=false
DEERFLOW_MODEL_1_SUPPORTS_THINKING=false
DEERFLOW_MODEL_2_NAME=vision-model
DEERFLOW_MODEL_2_DISPLAY_NAME=视觉模型
DEERFLOW_MODEL_2_MODEL=provider-vision-model-id
DEERFLOW_MODEL_2_BASE_URL=http://10.10.10.26:8000/v1
DEERFLOW_MODEL_2_API_KEY=replace-with-real-key-2
DEERFLOW_MODEL_2_SUPPORTS_VISION=true
DEERFLOW_MODEL_2_SUPPORTS_THINKING=false
```
规则:
1. 支持 1~20 个模型,编号必须从 1 连续排列;
2. 第 1 个模型是默认模型;
3. `NAME` 必须唯一;`MODEL` 是上游接口实际接收的 model id;
4. 每个模型可使用不同地址和 API Key;
5. `DISPLAY_NAME` 只影响页面显示;
6. 修改完成后执行 `./OFFLINE_INSTALL.sh --restart` 即可重新生成 `config.yaml` 并生效,无需手工改 YAML。
完整的超时、重试、最大 token、温度、视觉、thinking 和 Responses API 字段见 `docs/02-deploy.env配置说明.md`。