99 lines
3.4 KiB
Markdown
99 lines
3.4 KiB
Markdown
# wheelhouse 离线新增依赖与多模型配置
|
|
|
|
## 一、数据库固定使用 aiomysql
|
|
|
|
部署脚本生成的连接地址为:
|
|
|
|
```text
|
|
mysql+aiomysql://用户名:编码后的密码@主机:端口/数据库?charset=utf8mb4
|
|
```
|
|
|
|
镜像和 `source/wheelhouse` 都预置兼容组:
|
|
|
|
```text
|
|
aiomysql==0.3.2
|
|
PyMySQL==1.2.0
|
|
SQLAlchemy==2.0.51
|
|
```
|
|
|
|
这三个版本必须作为整体保留,避免出现 SQLAlchemy 的 `ping(reconnect)` 适配错误。人工只填写 `MYSQL_HOST`、`MYSQL_PORT`、`MYSQL_DATABASE`、`MYSQL_USER`、`MYSQL_PASSWORD`;不要直接编辑生成的数据库 URL。
|
|
|
|
## 二、以后怎样离线增加 Python 依赖
|
|
|
|
部署目录:
|
|
|
|
```text
|
|
source/wheelhouse/
|
|
├── requirements.txt
|
|
├── README.txt
|
|
├── *.whl
|
|
└── SHA256SUMS
|
|
```
|
|
|
|
后端镜像是 Python 3.12、Linux amd64。新增的 wheel 必须匹配该平台;常见可用标签是 `py3-none-any`、`cp312-manylinux2014_x86_64` 或兼容的 manylinux x86_64。Windows wheel、macOS wheel、ARM64 wheel、源码包 `.tar.gz` 均不能使用。
|
|
|
|
在联网的 Linux amd64/Python 3.12 机器下载示例:
|
|
|
|
```bash
|
|
mkdir -p new-wheels
|
|
python3.12 -m pip download \
|
|
--only-binary=:all: \
|
|
--platform manylinux2014_x86_64 \
|
|
--implementation cp \
|
|
--python-version 312 \
|
|
--abi cp312 \
|
|
--dest new-wheels \
|
|
'your-package==1.2.3'
|
|
```
|
|
|
|
将 `new-wheels/` 中目标包及其全部依赖的 `.whl` 上传到 `source/wheelhouse/`,然后在 `source/wheelhouse/requirements.txt` 增加:
|
|
|
|
```text
|
|
your-package==1.2.3
|
|
```
|
|
|
|
执行:
|
|
|
|
```bash
|
|
./OFFLINE_INSTALL.sh --restart
|
|
```
|
|
|
|
脚本只使用 `--no-index --find-links /app/wheelhouse`,不会访问互联网。它会计算 `requirements.txt` 和所有 wheel 的指纹;内容未变化时跳过安装,内容变化时安装到持久卷 `deerflow-python-vendor`。重建、停止或重启容器不会丢失已安装依赖,也不会修改基础镜像。
|
|
|
|
如果安装时报 `No matching distribution found`,通常是缺少传递依赖 wheel、wheel 平台不匹配,或 `requirements.txt` 中版本与文件名不一致。补齐后再次执行 `--restart` 即可;安装失败时后端不会被切换到半完成的新进程。
|
|
|
|
## 三、配置多个模型
|
|
|
|
`config/deploy.env` 是唯一配置源。示例文件已经给出三套模型块,使用:
|
|
|
|
```dotenv
|
|
DEERFLOW_MODEL_COUNT=2
|
|
|
|
DEERFLOW_MODEL_1_NAME=general-model
|
|
DEERFLOW_MODEL_1_DISPLAY_NAME=通用模型
|
|
DEERFLOW_MODEL_1_MODEL=provider-real-model-id
|
|
DEERFLOW_MODEL_1_BASE_URL=http://10.10.10.25:8000/v1
|
|
DEERFLOW_MODEL_1_API_KEY=replace-with-real-key-1
|
|
DEERFLOW_MODEL_1_SUPPORTS_VISION=false
|
|
DEERFLOW_MODEL_1_SUPPORTS_THINKING=false
|
|
|
|
DEERFLOW_MODEL_2_NAME=vision-model
|
|
DEERFLOW_MODEL_2_DISPLAY_NAME=视觉模型
|
|
DEERFLOW_MODEL_2_MODEL=provider-vision-model-id
|
|
DEERFLOW_MODEL_2_BASE_URL=http://10.10.10.26:8000/v1
|
|
DEERFLOW_MODEL_2_API_KEY=replace-with-real-key-2
|
|
DEERFLOW_MODEL_2_SUPPORTS_VISION=true
|
|
DEERFLOW_MODEL_2_SUPPORTS_THINKING=false
|
|
```
|
|
|
|
规则:
|
|
|
|
1. 支持 1~20 个模型,编号必须从 1 连续排列;
|
|
2. 第 1 个模型是默认模型;
|
|
3. `NAME` 必须唯一;`MODEL` 是上游接口实际接收的 model id;
|
|
4. 每个模型可使用不同地址和 API Key;
|
|
5. `DISPLAY_NAME` 只影响页面显示;
|
|
6. 修改完成后执行 `./OFFLINE_INSTALL.sh --restart` 即可重新生成 `config.yaml` 并生效,无需手工改 YAML。
|
|
|
|
完整的超时、重试、最大 token、温度、视觉、thinking 和 Responses API 字段见 `docs/02-deploy.env配置说明.md`。
|