开源 · Dagster
Dagster:数据资产与管道编排
软件定义资产(SDA)、类型检查、可观测与混合执行
Dagster 是面向数据团队的开源编排器,以软件定义资产管理数据依赖,提供类型/模式检查、资源/IO 管理、物化与可观测性。支持本地与云(Dagster Cloud)运行,适合现代数据平台的可维护管道。
软件定义资产
用资产描述上游依赖与物化逻辑,天然支持数据血缘。
类型与验证
内置类型/模式检查、传递资产元数据,降低运行时风险。
可观测与重试
日志、事件、告警、重试与回填,UI 展示资产/任务拓扑。
灵活执行
本地、K8s、混合执行与分布式资源管理,易与 dbt/仓库集成。
适用场景 / Use cases
- 以资产为中心的 ELT/ML 管道
- 数据血缘与质量守护
- 需要类型安全与可观测性的编排
- 混合部署与团队协作