3.4 KiB
wheelhouse 离线新增依赖与多模型配置
一、数据库固定使用 aiomysql
部署脚本生成的连接地址为:
mysql+aiomysql://用户名:编码后的密码@主机:端口/数据库?charset=utf8mb4
镜像和 source/wheelhouse 都预置兼容组:
aiomysql==0.3.2
PyMySQL==1.2.0
SQLAlchemy==2.0.51
这三个版本必须作为整体保留,避免出现 SQLAlchemy 的 ping(reconnect) 适配错误。人工只填写 MYSQL_HOST、MYSQL_PORT、MYSQL_DATABASE、MYSQL_USER、MYSQL_PASSWORD;不要直接编辑生成的数据库 URL。
二、以后怎样离线增加 Python 依赖
部署目录:
source/wheelhouse/
├── requirements.txt
├── README.txt
├── *.whl
└── SHA256SUMS
后端镜像是 Python 3.12、Linux amd64。新增的 wheel 必须匹配该平台;常见可用标签是 py3-none-any、cp312-manylinux2014_x86_64 或兼容的 manylinux x86_64。Windows wheel、macOS wheel、ARM64 wheel、源码包 .tar.gz 均不能使用。
在联网的 Linux amd64/Python 3.12 机器下载示例:
mkdir -p new-wheels
python3.12 -m pip download \
--only-binary=:all: \
--platform manylinux2014_x86_64 \
--implementation cp \
--python-version 312 \
--abi cp312 \
--dest new-wheels \
'your-package==1.2.3'
将 new-wheels/ 中目标包及其全部依赖的 .whl 上传到 source/wheelhouse/,然后在 source/wheelhouse/requirements.txt 增加:
your-package==1.2.3
执行:
./OFFLINE_INSTALL.sh --restart
脚本只使用 --no-index --find-links /app/wheelhouse,不会访问互联网。它会计算 requirements.txt 和所有 wheel 的指纹;内容未变化时跳过安装,内容变化时安装到持久卷 deerflow-python-vendor。重建、停止或重启容器不会丢失已安装依赖,也不会修改基础镜像。
如果安装时报 No matching distribution found,通常是缺少传递依赖 wheel、wheel 平台不匹配,或 requirements.txt 中版本与文件名不一致。补齐后再次执行 --restart 即可;安装失败时后端不会被切换到半完成的新进程。
三、配置多个模型
config/deploy.env 是唯一配置源。示例文件已经给出三套模型块,使用:
DEERFLOW_MODEL_COUNT=2
DEERFLOW_MODEL_1_NAME=general-model
DEERFLOW_MODEL_1_DISPLAY_NAME=通用模型
DEERFLOW_MODEL_1_MODEL=provider-real-model-id
DEERFLOW_MODEL_1_BASE_URL=http://10.10.10.25:8000/v1
DEERFLOW_MODEL_1_API_KEY=replace-with-real-key-1
DEERFLOW_MODEL_1_SUPPORTS_VISION=false
DEERFLOW_MODEL_1_SUPPORTS_THINKING=false
DEERFLOW_MODEL_2_NAME=vision-model
DEERFLOW_MODEL_2_DISPLAY_NAME=视觉模型
DEERFLOW_MODEL_2_MODEL=provider-vision-model-id
DEERFLOW_MODEL_2_BASE_URL=http://10.10.10.26:8000/v1
DEERFLOW_MODEL_2_API_KEY=replace-with-real-key-2
DEERFLOW_MODEL_2_SUPPORTS_VISION=true
DEERFLOW_MODEL_2_SUPPORTS_THINKING=false
规则:
- 支持 1~20 个模型,编号必须从 1 连续排列;
- 第 1 个模型是默认模型;
NAME必须唯一;MODEL是上游接口实际接收的 model id;- 每个模型可使用不同地址和 API Key;
DISPLAY_NAME只影响页面显示;- 修改完成后执行
./OFFLINE_INSTALL.sh --restart即可重新生成config.yaml并生效,无需手工改 YAML。
完整的超时、重试、最大 token、温度、视觉、thinking 和 Responses API 字段见 docs/02-deploy.env配置说明.md。