Files

1.2 KiB

id, title, type, domain, stack, tags, week
id title type domain stack tags week
backend.data-pipeline.index 数据管道基础 index backend
data-pipeline
ETL
增量同步
幂等
数据质量
14

数据管道基础

批处理与流处理、增量同步、限流重试、幂等、数据质量和告警。BOSS直聘 2026-10-23 的调研中部分 AI 应用岗位要求数据处理能力:知识库文档采集、第三方数据对接、报表数据准备都离不开它。

学习路线

顺序 课程 级别 预计
1 数据管道基础:批处理与流处理、增量同步、限流重试、幂等、数据质量和告警 进阶 3 小时

企业场景

面试题

示例代码

  • examples/incremental-sync:水位线、令牌桶、指数退避 + 抖动重试、幂等 upsert、死信、质量检查回滚(只用标准库,6 个测试通过)

在 16 周计划中