Files
deerflow-code/deploy/linux-docker-offline-deerflow-only/docs/13-wheelhouse离线新增依赖与多模型.md
T

3.4 KiB

wheelhouse 离线新增依赖与多模型配置

一、数据库固定使用 aiomysql

部署脚本生成的连接地址为:

mysql+aiomysql://用户名:编码后的密码@主机:端口/数据库?charset=utf8mb4

镜像和 source/wheelhouse 都预置兼容组:

aiomysql==0.3.2
PyMySQL==1.2.0
SQLAlchemy==2.0.51

这三个版本必须作为整体保留,避免出现 SQLAlchemy 的 ping(reconnect) 适配错误。人工只填写 MYSQL_HOST、MYSQL_PORT、MYSQL_DATABASE、MYSQL_USER、MYSQL_PASSWORD;不要直接编辑生成的数据库 URL。

二、以后怎样离线增加 Python 依赖

部署目录:

source/wheelhouse/
├── requirements.txt
├── README.txt
├── *.whl
└── SHA256SUMS

后端镜像是 Python 3.12、Linux amd64。新增的 wheel 必须匹配该平台;常见可用标签是 py3-none-any、cp312-manylinux2014_x86_64 或兼容的 manylinux x86_64。Windows wheel、macOS wheel、ARM64 wheel、源码包 .tar.gz 均不能使用。

在联网的 Linux amd64/Python 3.12 机器下载示例:

mkdir -p new-wheels
python3.12 -m pip download \
  --only-binary=:all: \
  --platform manylinux2014_x86_64 \
  --implementation cp \
  --python-version 312 \
  --abi cp312 \
  --dest new-wheels \
  'your-package==1.2.3'

将 new-wheels/ 中目标包及其全部依赖的 .whl 上传到 source/wheelhouse/,然后在 source/wheelhouse/requirements.txt 增加:

your-package==1.2.3

执行:

./OFFLINE_INSTALL.sh --restart

脚本只使用 --no-index --find-links /app/wheelhouse,不会访问互联网。它会计算 requirements.txt 和所有 wheel 的指纹;内容未变化时跳过安装,内容变化时安装到持久卷 deerflow-python-vendor。重建、停止或重启容器不会丢失已安装依赖,也不会修改基础镜像。

如果安装时报 No matching distribution found,通常是缺少传递依赖 wheel、wheel 平台不匹配,或 requirements.txt 中版本与文件名不一致。补齐后再次执行 --restart 即可;安装失败时后端不会被切换到半完成的新进程。

三、配置多个模型

config/deploy.env 是唯一配置源。示例文件已经给出三套模型块,使用:

DEERFLOW_MODEL_COUNT=2

DEERFLOW_MODEL_1_NAME=general-model
DEERFLOW_MODEL_1_DISPLAY_NAME=通用模型
DEERFLOW_MODEL_1_MODEL=provider-real-model-id
DEERFLOW_MODEL_1_BASE_URL=http://10.10.10.25:8000/v1
DEERFLOW_MODEL_1_API_KEY=replace-with-real-key-1
DEERFLOW_MODEL_1_SUPPORTS_VISION=false
DEERFLOW_MODEL_1_SUPPORTS_THINKING=false

DEERFLOW_MODEL_2_NAME=vision-model
DEERFLOW_MODEL_2_DISPLAY_NAME=视觉模型
DEERFLOW_MODEL_2_MODEL=provider-vision-model-id
DEERFLOW_MODEL_2_BASE_URL=http://10.10.10.26:8000/v1
DEERFLOW_MODEL_2_API_KEY=replace-with-real-key-2
DEERFLOW_MODEL_2_SUPPORTS_VISION=true
DEERFLOW_MODEL_2_SUPPORTS_THINKING=false

规则:

  1. 支持 1~20 个模型,编号必须从 1 连续排列;
  2. 第 1 个模型是默认模型;
  3. NAME 必须唯一;MODEL 是上游接口实际接收的 model id;
  4. 每个模型可使用不同地址和 API Key;
  5. DISPLAY_NAME 只影响页面显示;
  6. 修改完成后执行 ./OFFLINE_INSTALL.sh --restart 即可重新生成 config.yaml 并生效,无需手工改 YAML。

完整的超时、重试、最大 token、温度、视觉、thinking 和 Responses API 字段见 docs/02-deploy.env配置说明.md。