阶段2(下):运维专题 Docker/Nginx/Linux/CI-CD/Git 的课程、企业场景、面试题和可运行示例
This commit is contained in:
1 parent
5eb67c5d08
commit
b8010a74f3
42 files changed
+3533
-55
No files matched your search
@@ -0,0 +1,90 @@
|
||||
---
|
||||
id: devops.cicd.pipeline
|
||||
title: 流水线设计:触发、阶段、缓存、服务容器、密钥
|
||||
type: lesson
|
||||
domain: devops
|
||||
stack: [cicd]
|
||||
tags: [流水线, GitHub Actions, 缓存, 服务容器, 密钥管理]
|
||||
level: basic
|
||||
est_hours: 2
|
||||
related: [devops.cicd.release-rollback, devops.cicd.interview, devops.git.index]
|
||||
week: [3, 7]
|
||||
order: 1
|
||||
---
|
||||
|
||||
# 流水线设计:触发、阶段、缓存、服务容器、密钥
|
||||
|
||||
## 解释说明
|
||||
|
||||
- **CI(持续集成)**:每次推送 / 合并请求自动执行“检查 → 测试 → 构建”,尽早发现问题。**合并请求必须 CI 通过**才允许合并。
|
||||
- **CD**:持续交付(自动构建出可发布的产物,人工点一下发布)和持续部署(自动发布到生产)。大部分团队是测试环境自动部署、生产环境人工审批。
|
||||
- **典型阶段**:
|
||||
|
||||
| 阶段 | 内容 | 失败时 |
|
||||
| --- | --- | --- |
|
||||
| 检查 | 格式化、lint(`go vet`、`ruff`、`eslint`)、类型检查 | 最快失败,最便宜 |
|
||||
| 测试 | 单元测试、集成测试(用服务容器起数据库) | 阻止合并 |
|
||||
| 构建 | 编译、打包前端、构建镜像 | 阻止发布 |
|
||||
| 安全 | 依赖漏洞扫描、镜像扫描、密钥扫描 | 视严重程度阻止 |
|
||||
| 部署 | 推送镜像、更新环境、健康检查 | 自动回滚 |
|
||||
|
||||
- **触发条件**:`push` 到主分支、`pull_request`、打标签、定时、手动。
|
||||
- **缓存**:依赖下载(Go 模块、pip、npm)缓存起来,按锁文件(`go.sum`、`package-lock.json`)的哈希作为缓存 key。
|
||||
- **服务容器**:CI 里起一个临时 PostgreSQL / Redis,跑集成测试。
|
||||
- **密钥**:放在平台的 Secrets 里,通过环境变量注入;日志里平台会自动打码,但不要主动 `echo`。合并请求来自外部 fork 时,平台默认不提供密钥。
|
||||
- **流水线即代码**:配置文件和代码一起放在仓库里,可评审、可追溯。
|
||||
|
||||
## 案例
|
||||
|
||||
前端出身转后端,最常见的流水线:合并请求触发 `lint + test + build`;合并到 main 后构建镜像(标签是提交哈希)并自动部署到测试环境;生产发布由负责人在平台上手动触发,指定镜像标签。
|
||||
|
||||
## 代码示例
|
||||
|
||||
完整文件见 [examples/pipeline/ci.yml](examples/pipeline/ci.yml),下面是 Go 服务的测试任务(带 PostgreSQL 服务容器):
|
||||
|
||||
```yaml
|
||||
jobs:
|
||||
api:
|
||||
runs-on: ubuntu-latest
|
||||
services:
|
||||
postgres:
|
||||
image: postgres:17
|
||||
env:
|
||||
POSTGRES_USER: test
|
||||
POSTGRES_PASSWORD: test
|
||||
POSTGRES_DB: test
|
||||
ports: ['5432:5432']
|
||||
options: >-
|
||||
--health-cmd "pg_isready -U test" --health-interval 5s --health-retries 10
|
||||
steps:
|
||||
- uses: actions/checkout@v4
|
||||
- uses: actions/setup-go@v5
|
||||
with:
|
||||
go-version-file: go.mod # 和 go.mod 保持一致,自带模块缓存
|
||||
- run: go vet ./...
|
||||
- run: go test -race -count=1 ./...
|
||||
env:
|
||||
TEST_DATABASE_URL: postgres://test:test@localhost:5432/test?sslmode=disable
|
||||
```
|
||||
|
||||
本仓库自己的检查命令也可以放进流水线:
|
||||
|
||||
```yaml
|
||||
- run: python3 tools/build_catalog.py --check --strict # 内容规范校验
|
||||
- run: python3 tools/run_examples.py # 运行示例代码
|
||||
```
|
||||
|
||||
Action 的版本号(`@v4`、`@v5`)会更新,以各 Action 仓库的说明为准。
|
||||
|
||||
## 易错点
|
||||
|
||||
- **测试依赖真实外部服务**(真实的模型 API、第三方支付):不稳定、花钱、泄露密钥。单元测试用假实现,真实调用放到单独的、手动触发的任务里。
|
||||
- **用 `latest` 标签部署**:无法确定线上是哪个版本,也无法回滚。
|
||||
- **缓存 key 不包含锁文件哈希**:依赖更新了还在用旧缓存。
|
||||
- **把密钥写在配置文件里**:即使后来删除,也留在 Git 历史中,必须轮换密钥。
|
||||
- **流水线太慢没人等**:并行执行任务、按改动路径只跑相关部分、缓存依赖;目标是 10 分钟以内。
|
||||
- **CI 通过不是合并的必要条件**:分支保护里要设置“必须通过检查”。
|
||||
|
||||
## 面试常问
|
||||
|
||||
见 [CI/CD 面试题](interview.md):你们的 CI/CD 流程、怎么加速流水线、密钥怎么管理。
|
||||
@@ -0,0 +1,87 @@
|
||||
---
|
||||
id: devops.cicd.release-rollback
|
||||
title: 发布与回滚:镜像标签、环境、滚动 / 蓝绿 / 金丝雀、数据库迁移
|
||||
type: lesson
|
||||
domain: devops
|
||||
stack: [cicd]
|
||||
tags: [发布策略, 回滚, 蓝绿发布, 金丝雀, 数据库迁移, 特性开关]
|
||||
level: intermediate
|
||||
prerequisites: [devops.cicd.pipeline]
|
||||
est_hours: 3
|
||||
related: [devops.cicd.scenario.multi-lang-pipeline, devops.nginx.https-stream-limit, devops.cicd.interview]
|
||||
week: [14]
|
||||
order: 2
|
||||
---
|
||||
|
||||
# 发布与回滚:镜像标签、环境、滚动 / 蓝绿 / 金丝雀、数据库迁移
|
||||
|
||||
## 解释说明
|
||||
|
||||
**不可变产物**:一次构建出镜像(标签 = 提交哈希或版本号),测试、预发、生产用**同一个镜像**,只是配置不同。这样测试过的东西就是上线的东西,回滚就是切回上一个标签。
|
||||
|
||||
**环境**:开发 → 测试 → 预发(和生产配置尽量一致)→ 生产。配置通过环境变量注入,不打进镜像。
|
||||
|
||||
**发布策略**
|
||||
|
||||
| 策略 | 做法 | 优点 | 缺点 |
|
||||
| --- | --- | --- | --- |
|
||||
| 重建 | 停掉旧版本再启动新版本 | 最简单 | 有停机 |
|
||||
| 滚动 | 逐台替换实例 | 无停机、资源占用少 | 新旧版本同时在线一段时间;回滚也要逐台 |
|
||||
| 蓝绿 | 准备一整套新环境,验证后切流量 | 切换和回滚都是瞬间 | 需要双倍资源 |
|
||||
| 金丝雀 | 先给小部分流量,观察指标后逐步放大 | 风险最小 | 需要流量控制能力和监控 |
|
||||
|
||||
**回滚**:应用回滚 = 部署上一个镜像标签。难点在**数据库**:新版本已经改了表结构,旧版本可能跑不起来。
|
||||
|
||||
**数据库迁移的原则**:迁移脚本放在仓库里、有版本号、由工具执行(Go 的 golang-migrate / goose,Python 的 Alembic);**每次迁移都要向后兼容**——新旧代码都能在新表结构上运行。删除或重命名字段要分多次发布(“扩展 → 迁移 → 收缩”):
|
||||
|
||||
1. 加新字段(旧代码不受影响),新代码同时写新旧字段;
|
||||
2. 回填历史数据,新代码改为读新字段;
|
||||
3. 确认不再回滚到旧版本后,再删除旧字段。
|
||||
|
||||
**特性开关**:代码先上线但功能默认关闭,通过配置打开;出问题直接关开关,比回滚代码更快。
|
||||
|
||||
## 案例
|
||||
|
||||
一次发布要把 `users.name` 改名为 `display_name`,迁移脚本直接执行了 `RENAME COLUMN`。发布后发现新版本有 bug,回滚到旧版本——旧代码找不到 `name` 字段,全站报错,故障时间翻倍。按“扩展 → 迁移 → 收缩”分三次发布就能避免。
|
||||
|
||||
## 代码示例
|
||||
|
||||
单机部署 + 健康检查 + 失败自动回滚(完整脚本 [examples/pipeline/deploy.sh](examples/pipeline/deploy.sh)):
|
||||
|
||||
```bash
|
||||
previous="$(cat "$STATE_FILE" 2>/dev/null || true)" # 上一次成功部署的标签
|
||||
deploy "$IMAGE_TAG"
|
||||
if healthy; then
|
||||
echo "$IMAGE_TAG" > "$STATE_FILE"
|
||||
else
|
||||
echo "健康检查失败,回滚到 $previous" >&2
|
||||
[[ -n "$previous" ]] && deploy "$previous"
|
||||
exit 1
|
||||
fi
|
||||
```
|
||||
|
||||
“扩展 → 迁移 → 收缩”的迁移脚本(PostgreSQL):
|
||||
|
||||
```sql
|
||||
-- 第 1 次发布:扩展(旧代码不受影响)
|
||||
ALTER TABLE users ADD COLUMN display_name TEXT;
|
||||
|
||||
-- 第 2 次发布前:回填(大表要分批执行)
|
||||
UPDATE users SET display_name = name WHERE display_name IS NULL;
|
||||
|
||||
-- 第 3 次发布:确认不再回滚到读 name 的版本后,收缩
|
||||
ALTER TABLE users DROP COLUMN name;
|
||||
```
|
||||
|
||||
## 易错点
|
||||
|
||||
- **每个环境重新构建镜像**:测试过的和上线的不是同一个东西。
|
||||
- **迁移不向后兼容**:应用无法回滚。
|
||||
- **应用启动时自动执行破坏性迁移**:多实例同时启动会并发迁移;迁移失败导致所有实例起不来。迁移作为单独的发布步骤执行。
|
||||
- **只看“部署成功”不看业务指标**:容器起来了不代表功能正常。发布后观察错误率、延迟、关键业务指标。
|
||||
- **回滚流程从来没有演练过**:真出事时脚本跑不通。
|
||||
- **特性开关从不清理**:代码里分支越来越多。功能稳定后删除开关。
|
||||
|
||||
## 面试常问
|
||||
|
||||
见 [CI/CD 面试题](interview.md):蓝绿和金丝雀的区别、怎么回滚、数据库变更怎么做到可回滚。
|
||||
@@ -0,0 +1,116 @@
|
||||
# GitHub Actions 工作流示例(放到 .github/workflows/ci.yml)。
|
||||
# Gitea Actions 的语法与之基本兼容;GitLab CI 语法不同,思路一样。具体字段以所用平台的官方文档为准。
|
||||
# 仓库结构假设:api/(Go)、ai/(Python)、web/(前端)
|
||||
name: ci
|
||||
|
||||
on:
|
||||
push:
|
||||
branches: [main]
|
||||
pull_request:
|
||||
|
||||
concurrency: # 同一分支新的提交会取消旧的运行
|
||||
group: ci-${{ github.ref }}
|
||||
cancel-in-progress: true
|
||||
|
||||
jobs:
|
||||
changes: # 只构建改动过的部分
|
||||
runs-on: ubuntu-latest
|
||||
outputs:
|
||||
api: ${{ steps.filter.outputs.api }}
|
||||
ai: ${{ steps.filter.outputs.ai }}
|
||||
web: ${{ steps.filter.outputs.web }}
|
||||
steps:
|
||||
- uses: actions/checkout@v4
|
||||
- uses: dorny/paths-filter@v3
|
||||
id: filter
|
||||
with:
|
||||
filters: |
|
||||
api: ['api/**']
|
||||
ai: ['ai/**']
|
||||
web: ['web/**']
|
||||
|
||||
api:
|
||||
needs: changes
|
||||
if: needs.changes.outputs.api == 'true'
|
||||
runs-on: ubuntu-latest
|
||||
services:
|
||||
postgres: # 集成测试用的数据库
|
||||
image: postgres:17
|
||||
env:
|
||||
POSTGRES_USER: test
|
||||
POSTGRES_PASSWORD: test
|
||||
POSTGRES_DB: test
|
||||
ports: ['5432:5432']
|
||||
options: >-
|
||||
--health-cmd "pg_isready -U test" --health-interval 5s --health-retries 10
|
||||
defaults:
|
||||
run:
|
||||
working-directory: api
|
||||
steps:
|
||||
- uses: actions/checkout@v4
|
||||
- uses: actions/setup-go@v5
|
||||
with:
|
||||
go-version-file: api/go.mod
|
||||
- run: go vet ./...
|
||||
- run: go test -race -count=1 ./...
|
||||
env:
|
||||
TEST_DATABASE_URL: postgres://test:test@localhost:5432/test?sslmode=disable
|
||||
|
||||
ai:
|
||||
needs: changes
|
||||
if: needs.changes.outputs.ai == 'true'
|
||||
runs-on: ubuntu-latest
|
||||
defaults:
|
||||
run:
|
||||
working-directory: ai
|
||||
steps:
|
||||
- uses: actions/checkout@v4
|
||||
- uses: actions/setup-python@v5
|
||||
with:
|
||||
python-version: '3.12'
|
||||
cache: pip
|
||||
- run: pip install -r requirements.txt -r requirements-dev.txt
|
||||
- run: ruff check .
|
||||
- run: pytest -q # 单元测试里用假的模型客户端,不调用真实模型 API
|
||||
|
||||
web:
|
||||
needs: changes
|
||||
if: needs.changes.outputs.web == 'true'
|
||||
runs-on: ubuntu-latest
|
||||
defaults:
|
||||
run:
|
||||
working-directory: web
|
||||
steps:
|
||||
- uses: actions/checkout@v4
|
||||
- uses: actions/setup-node@v4
|
||||
with:
|
||||
node-version: 22
|
||||
cache: npm
|
||||
cache-dependency-path: web/package-lock.json
|
||||
- run: npm ci
|
||||
- run: npm run lint
|
||||
- run: npm run test -- --run
|
||||
- run: npm run build
|
||||
|
||||
image: # 只在 main 分支、测试全部通过后构建并推送镜像
|
||||
needs: [api, ai, web]
|
||||
# 依赖的任务被跳过时(没改动),默认会连带跳过本任务,所以要显式写 always() 再判断结果
|
||||
if: >-
|
||||
always() && github.ref == 'refs/heads/main' &&
|
||||
!contains(needs.*.result, 'failure') && !contains(needs.*.result, 'cancelled')
|
||||
runs-on: ubuntu-latest
|
||||
permissions:
|
||||
contents: read
|
||||
packages: write
|
||||
steps:
|
||||
- uses: actions/checkout@v4
|
||||
- uses: docker/login-action@v3
|
||||
with:
|
||||
registry: ghcr.io
|
||||
username: ${{ github.actor }}
|
||||
password: ${{ secrets.GITHUB_TOKEN }} # 密钥来自平台,不写进仓库
|
||||
- name: build and push
|
||||
run: |
|
||||
tag=${GITHUB_SHA::12} # 用提交哈希做标签,可追溯、可回滚
|
||||
docker build -t ghcr.io/${{ github.repository }}/api:$tag api
|
||||
docker push ghcr.io/${{ github.repository }}/api:$tag
|
||||
@@ -0,0 +1,41 @@
|
||||
#!/usr/bin/env bash
|
||||
# 不自动运行:单机 Docker Compose 部署脚本示例——拉取指定版本、健康检查、失败自动回滚
|
||||
# 用法:IMAGE_TAG=<提交哈希> ./deploy.sh
|
||||
# 约定:compose.yaml 里 api 服务的镜像写成 image: registry.example.com/app/api:${IMAGE_TAG}
|
||||
set -euo pipefail
|
||||
|
||||
: "${IMAGE_TAG:?需要指定 IMAGE_TAG}"
|
||||
HEALTH_URL="${HEALTH_URL:-http://127.0.0.1:8080/healthz}"
|
||||
STATE_FILE="${STATE_FILE:-.deployed_tag}"
|
||||
previous="$(cat "$STATE_FILE" 2>/dev/null || true)"
|
||||
|
||||
deploy() {
|
||||
local tag="$1"
|
||||
echo "部署版本 $tag"
|
||||
IMAGE_TAG="$tag" docker compose pull api
|
||||
IMAGE_TAG="$tag" docker compose up -d --no-deps api
|
||||
}
|
||||
|
||||
healthy() {
|
||||
for _ in $(seq 1 30); do
|
||||
if curl -fsS --max-time 2 "$HEALTH_URL" >/dev/null; then
|
||||
return 0
|
||||
fi
|
||||
sleep 2
|
||||
done
|
||||
return 1
|
||||
}
|
||||
|
||||
deploy "$IMAGE_TAG"
|
||||
if healthy; then
|
||||
echo "$IMAGE_TAG" > "$STATE_FILE"
|
||||
echo "部署成功:$IMAGE_TAG"
|
||||
else
|
||||
echo "健康检查失败" >&2
|
||||
if [[ -n "$previous" ]]; then
|
||||
echo "回滚到 $previous" >&2
|
||||
deploy "$previous"
|
||||
healthy && echo "已回滚到 $previous" >&2
|
||||
fi
|
||||
exit 1
|
||||
fi
|
||||
@@ -0,0 +1,44 @@
|
||||
# requires: yaml
|
||||
"""检查 ci.yml 的结构是否符合约定(YAML 能解析、关键任务存在、镜像只在 main 构建、没有明文密钥)。
|
||||
|
||||
运行:python -m pytest -q test_ci_config.py
|
||||
这不能代替在真实 CI 平台上运行,只用来防止明显的配置错误。
|
||||
"""
|
||||
import re
|
||||
from pathlib import Path
|
||||
|
||||
import yaml
|
||||
|
||||
HERE = Path(__file__).resolve().parent
|
||||
TEXT = (HERE / "ci.yml").read_text(encoding="utf-8")
|
||||
CI = yaml.safe_load(TEXT)
|
||||
|
||||
|
||||
def test_jobs_exist():
|
||||
assert {"changes", "api", "ai", "web", "image"} <= set(CI["jobs"])
|
||||
|
||||
|
||||
def test_trigger():
|
||||
# 注意:PyYAML 按 YAML 1.1 把键 on 解析成 True
|
||||
triggers = CI.get("on", CI.get(True))
|
||||
assert "pull_request" in triggers and triggers["push"]["branches"] == ["main"]
|
||||
|
||||
|
||||
def test_image_only_on_main_and_after_tests():
|
||||
image = CI["jobs"]["image"]
|
||||
assert set(image["needs"]) == {"api", "ai", "web"}
|
||||
assert "refs/heads/main" in image["if"]
|
||||
|
||||
|
||||
def test_tests_run():
|
||||
api_steps = " ".join(s.get("run", "") for s in CI["jobs"]["api"]["steps"])
|
||||
assert "go test" in api_steps and "go vet" in api_steps
|
||||
web_steps = " ".join(s.get("run", "") for s in CI["jobs"]["web"]["steps"])
|
||||
assert "npm ci" in web_steps and "npm run build" in web_steps
|
||||
|
||||
|
||||
def test_no_plaintext_secrets():
|
||||
for line in TEXT.splitlines():
|
||||
if re.search(r"(?i)(password|token|secret)\s*:", line) and "secrets." not in line:
|
||||
# 只有 CI 服务容器里的测试数据库密码允许明文
|
||||
assert "POSTGRES_PASSWORD: test" in line, line
|
||||
@@ -4,12 +4,39 @@ title: CI/CD
|
||||
type: index
|
||||
domain: devops
|
||||
stack: [cicd]
|
||||
tags: []
|
||||
tags: [CI/CD, 持续集成, 持续部署, 流水线, 发布]
|
||||
week: [3, 7, 14]
|
||||
---
|
||||
|
||||
# CI/CD
|
||||
|
||||
流水线设计、测试与构建、镜像发布、部署与回滚。
|
||||
持续集成(每次提交自动检查、测试、构建)和持续部署(自动发布到环境)。面试里常被问“你们的发布流程是怎样的”“出问题怎么回滚”。本专题以 GitHub Actions 语法为例(Gitea Actions 基本兼容,GitLab CI 思路相同),重点是流水线设计、发布策略和回滚,而不是某个平台的细节。
|
||||
|
||||
> 本专题建设中:课程、企业场景、面试题和示例代码会陆续补充。
|
||||
## 学习路线
|
||||
|
||||
| 顺序 | 课程 | 级别 | 预计 |
|
||||
| --- | --- | --- | --- |
|
||||
| 1 | [流水线设计:触发、阶段、缓存、服务容器、密钥](01-pipeline.md) | 基础 | 2 小时 |
|
||||
| 2 | [发布与回滚:镜像标签、环境、滚动 / 蓝绿 / 金丝雀、数据库迁移](02-release-rollback.md) | 进阶 | 3 小时 |
|
||||
|
||||
## 企业场景
|
||||
|
||||
- [多语言仓库的流水线:Go + Python + 前端,按改动构建、自动部署和回滚](scenarios/multi-lang-pipeline.md)
|
||||
|
||||
## 面试题
|
||||
|
||||
- [CI/CD 面试题](interview.md)
|
||||
|
||||
## 示例代码
|
||||
|
||||
- [examples/pipeline](examples/pipeline/):`ci.yml`(GitHub Actions 语法的完整流水线)、`deploy.sh`(单机部署 + 健康检查 + 自动回滚,已用 shellcheck 检查)、`test_ci_config.py`(对流水线配置做结构检查)。流水线本身需要在 CI 平台上实际运行验证
|
||||
|
||||
## 在 16 周计划中
|
||||
|
||||
- [第 3 周:项目一 CI](../../../plan/week03-project1.md)、[第 7 周:前端构建](../../../plan/week07-frontend.md)、[第 14 周:部署](../../../plan/week14-backend-extend-deploy.md)
|
||||
|
||||
## 官方资料
|
||||
|
||||
- GitHub Actions:https://docs.github.com/actions
|
||||
- Gitea Actions:https://docs.gitea.com/usage/actions/overview
|
||||
- GitLab CI/CD:https://docs.gitlab.com/ci/
|
||||
@@ -0,0 +1,55 @@
|
||||
---
|
||||
id: devops.cicd.interview
|
||||
title: CI/CD 面试题
|
||||
type: interview
|
||||
domain: devops
|
||||
stack: [cicd]
|
||||
tags: [CI/CD, 发布, 回滚, 面试]
|
||||
level: intermediate
|
||||
related: [devops.cicd.pipeline, devops.cicd.release-rollback]
|
||||
week: [14, 16]
|
||||
---
|
||||
|
||||
# CI/CD 面试题
|
||||
|
||||
## 基础
|
||||
|
||||
### 【基础】CI 和 CD 分别是什么?
|
||||
|
||||
**参考答案**:CI(持续集成)是开发者频繁合并代码,每次合并自动执行检查、测试和构建,尽早发现集成问题;CD 包括持续交付(每次变更都自动产出可发布的产物,发布由人触发)和持续部署(自动发布到生产)。
|
||||
|
||||
### 【基础】一条典型的流水线包括哪些阶段?
|
||||
|
||||
**参考答案**:代码检查(格式、lint、类型检查)→ 单元测试和集成测试 → 构建(编译、打包、构建镜像)→ 安全扫描(依赖、镜像、密钥)→ 部署到测试环境 → (审批)→ 部署生产 → 部署后验证(健康检查、冒烟测试)。
|
||||
|
||||
### 【基础】流水线里的密钥怎么管理?
|
||||
|
||||
**参考答案**:存放在 CI 平台的 Secrets 或专门的密钥管理系统中,以环境变量注入,不写进仓库和镜像;按环境和最小权限划分;不要在日志里打印;来自外部 fork 的合并请求默认拿不到密钥;泄露后立即轮换。
|
||||
|
||||
## 进阶
|
||||
|
||||
### 【进阶】蓝绿发布、滚动发布、金丝雀发布有什么区别?
|
||||
|
||||
**参考答案**:滚动发布逐台替换实例,资源占用少,但新旧版本会同时在线,回滚也要逐台;蓝绿发布准备一整套新环境,验证后一次性切换流量,回滚即切回,但需要双倍资源;金丝雀发布先把小比例流量导到新版本,观察错误率等指标后逐步扩大,风险最小,需要流量控制和监控能力。
|
||||
|
||||
### 【进阶】怎么让数据库变更也能回滚?
|
||||
|
||||
**参考答案**:迁移脚本版本化,由工具执行;每次变更保持向后兼容,使新旧代码都能在新表结构上运行;破坏性变更拆成多次发布:先扩展(加字段 / 表),再迁移数据和切换读写,最后确认不会回滚后再收缩(删旧字段)。大表变更用在线 DDL 工具,并提前在预发环境演练。
|
||||
|
||||
### 【进阶】流水线太慢,怎么优化?
|
||||
|
||||
**参考答案**:缓存依赖(按锁文件哈希作为 key);任务并行;按改动路径只运行相关部分;Docker 构建利用层缓存;把慢的端到端测试放到合并后或定时执行;拆分测试并行运行;用更快的执行机器。
|
||||
|
||||
## 场景题
|
||||
|
||||
### 【场景题】新版本上线后错误率升高,你怎么处理?
|
||||
|
||||
**参考答案**:先止血:确认是否与本次发布相关(时间点吻合),是的话立即回滚到上一个镜像标签,或关闭对应的特性开关;同时保留日志和错误信息。恢复后再定位原因,补充测试,复盘为什么没有在测试阶段发现。前提是平时就有一键回滚的能力,并且数据库变更向后兼容。
|
||||
|
||||
### 【场景题】你们团队的发布流程是怎样的?(如果之前是前端,可以怎么回答)
|
||||
|
||||
**参考答案**:按真实情况讲流程:合并请求触发 lint / 测试 / 构建,评审通过且检查通过后合并;合并后自动构建产物并部署到测试环境;生产发布由负责人触发,发布后观察监控,有问题回滚。前端可以讲:构建产物上传 CDN、`index.html` 不缓存、带哈希的资源长缓存、通过切换入口文件回滚。再补充你在转岗项目里实现的后端流水线(本专题的示例)。不要编造没做过的经历。
|
||||
|
||||
### 【场景题】线上运行的是哪个版本的代码?怎么确认?
|
||||
|
||||
**参考答案**:镜像标签使用提交哈希或语义化版本,部署记录里保存每次部署的标签;服务在健康检查或版本接口里返回构建时注入的版本号和提交哈希(Go 用 `-ldflags "-X main.version=..."`);日志和错误上报里带上版本号。这样出问题时能准确定位到代码。
|
||||
@@ -0,0 +1,111 @@
|
||||
---
|
||||
id: devops.cicd.scenario.multi-lang-pipeline
|
||||
title: 多语言仓库的流水线:Go + Python + 前端,按改动构建、自动部署和回滚
|
||||
type: scenario
|
||||
domain: devops
|
||||
stack: [cicd, docker, go, python, vue]
|
||||
tags: [Monorepo, 流水线, 路径过滤, 自动部署, 回滚]
|
||||
level: intermediate
|
||||
prerequisites: [devops.cicd.pipeline]
|
||||
est_hours: 2
|
||||
related: [devops.cicd.release-rollback, devops.cicd.interview, devops.docker.scenario.compose-dev-env]
|
||||
week: [14, 15]
|
||||
---
|
||||
|
||||
# 多语言仓库的流水线:Go + Python + 前端,按改动构建、自动部署和回滚
|
||||
|
||||
## 业务背景与问题
|
||||
|
||||
一个 AI 知识库产品放在一个仓库里:`api/`(Go)、`ai/`(Python FastAPI)、`web/`(Vue)。之前的发布方式是开发者在本机构建、`scp` 到服务器、手动重启。问题:
|
||||
|
||||
- 有人本机环境不同,构建出来的产物线上运行出错;
|
||||
- 只改了前端文案,也要把三个部分都重新构建一遍;
|
||||
- 发布出错时,没人记得上一个版本是什么,回滚靠手工。
|
||||
|
||||
## 约束
|
||||
|
||||
- 小团队,使用代码托管平台自带的 CI(GitHub Actions / Gitea Actions 等)。
|
||||
- 单台或两台服务器,用 Docker Compose 部署。
|
||||
- 合并请求的检查要在 10 分钟内完成。
|
||||
- 模型 API Key 等密钥不能出现在仓库和日志里。
|
||||
|
||||
## 方案设计
|
||||
|
||||
```mermaid
|
||||
flowchart LR
|
||||
PR[合并请求] --> C{改了哪些目录?}
|
||||
C -->|api/| A[Go: vet + test + 服务容器 PostgreSQL]
|
||||
C -->|ai/| P[Python: ruff + pytest(假模型客户端)]
|
||||
C -->|web/| W[前端: lint + test + build]
|
||||
A & P & W --> M[合并到 main]
|
||||
M --> I[构建镜像,标签 = 提交哈希,推送镜像仓库]
|
||||
I --> T[自动部署测试环境]
|
||||
T -->|人工审批| PROD[部署生产:健康检查失败自动回滚]
|
||||
```
|
||||
|
||||
1. **按改动路径执行**:用路径过滤只运行改动部分的检查;所有检查作为合并的必要条件。
|
||||
2. **测试不依赖真实模型**:AI 服务的单元测试注入假的模型客户端;真实模型的效果评测作为单独的手动任务(见 Agent 评测专题)。
|
||||
3. **不可变镜像**:main 分支构建一次镜像,标签用提交哈希;测试和生产使用同一镜像。
|
||||
4. **部署脚本**:拉取指定标签 → 启动 → 健康检查 → 记录成功的标签;失败自动回滚到上一个成功的标签。
|
||||
5. **数据库迁移**:独立步骤,向后兼容(扩展 → 迁移 → 收缩)。
|
||||
|
||||
## 关键代码
|
||||
|
||||
完整文件见 [examples/pipeline](../examples/pipeline/)。路径过滤 + 只在 main 构建镜像:
|
||||
|
||||
```yaml
|
||||
jobs:
|
||||
changes:
|
||||
runs-on: ubuntu-latest
|
||||
outputs:
|
||||
api: ${{ steps.filter.outputs.api }}
|
||||
steps:
|
||||
- uses: actions/checkout@v4
|
||||
- uses: dorny/paths-filter@v3
|
||||
id: filter
|
||||
with:
|
||||
filters: |
|
||||
api: ['api/**']
|
||||
|
||||
api:
|
||||
needs: changes
|
||||
if: needs.changes.outputs.api == 'true'
|
||||
runs-on: ubuntu-latest
|
||||
steps:
|
||||
- uses: actions/checkout@v4
|
||||
- run: cd api && go test ./...
|
||||
|
||||
image:
|
||||
needs: [api]
|
||||
# 依赖任务被跳过时默认会连带跳过,所以用 always() 再判断结果
|
||||
if: >-
|
||||
always() && github.ref == 'refs/heads/main' &&
|
||||
!contains(needs.*.result, 'failure') && !contains(needs.*.result, 'cancelled')
|
||||
runs-on: ubuntu-latest
|
||||
steps:
|
||||
- uses: actions/checkout@v4
|
||||
- run: docker build -t registry.example.com/app/api:${GITHUB_SHA::12} api
|
||||
```
|
||||
|
||||
部署和回滚见 [deploy.sh](../examples/pipeline/deploy.sh)。
|
||||
|
||||
## 取舍
|
||||
|
||||
| 选择 | 优点 | 缺点 |
|
||||
| --- | --- | --- |
|
||||
| **单仓库 + 路径过滤(本方案)** | 一次合并请求可以同时改前后端;统一规范 | 流水线配置更复杂 |
|
||||
| 每个服务一个仓库 | 流水线简单、权限独立 | 跨服务改动要多个合并请求协调 |
|
||||
| 生产自动部署 | 最快 | 需要很好的测试和监控 |
|
||||
| **生产人工审批(本方案)** | 可控 | 多一步人工操作 |
|
||||
|
||||
## 易错点
|
||||
|
||||
- 必需检查被路径过滤跳过后,平台认为“检查未完成”导致无法合并:需要一个汇总任务(总是运行)作为必需检查。
|
||||
- 依赖任务被跳过导致镜像任务也被跳过:条件里加 `always()` 并判断结果。
|
||||
- 前端构建产物里写死了测试环境的接口地址:用相对路径 `/api`,由 Nginx 转发;或在运行时注入配置。
|
||||
- 部署脚本没有记录上一个成功版本:回滚时不知道回到哪里。
|
||||
- CI 日志里打印了环境变量:密钥泄露。
|
||||
|
||||
## 面试怎么讲
|
||||
|
||||
> “我们的仓库里有 Go、Python 和前端三部分。我设计的流水线按改动路径只跑相关检查,所有检查是合并的必要条件;AI 服务的单元测试用假的模型客户端,不依赖外部 API。合并到 main 后构建一次镜像,用提交哈希做标签,测试和生产用同一个镜像;部署脚本做健康检查,失败自动回滚到上一个成功的标签。数据库迁移单独执行并保持向后兼容。”
|
||||
Reference in new issue
Block a user