企业制造数据分析平台

进行中

基于 dbt + Databricks 的数据管道,采用 Medallion(Bronze→Silver→Gold→Mart)分层架构,将原始 ERP 数据转化为可直接用于分析的模型,支撑制造运营、库存、销售与人力效率报表。

技术栈

dbtDatabricksUnity CatalogApache IcebergPythonSQLMedallion Architecture

项目概述

一个运行在 Databricks 上的 dbt 项目,将原始 ERP 数据转化为可直接用于分析的模型。采用 Medallion(Bronze → Silver → Gold → Mart)分层架构,使经过清洗与整理的数据表能够支撑 KPI 看板、排行榜以及跨多条制造产线、人力效率、预生产计划和销售报表的运营视图。

架构设计

数据经过四个逐层精炼的层级,每一层职责清晰:

  • Bronze——原始接入的 ERP 源表,按原样落地。
  • Silver——清洗与标准化后的事实表和维度表(订单、单元、销售、扫描、工时)。
  • Gold——面向业务领域整理的可用模型,包含交期、生产指标与返工原因等。
  • Mart——分析视图:KPI、排行榜与聚合结果,供看板直接消费。

技术亮点

  • 分层建模,配合可复用的 macro 统一 schema 命名与共享转换逻辑。
  • 数据质量测试,并使用 snapshot 处理缓慢变化维度。
  • 以 seed 驱动参考数据查找,实现可复现、可版本化的元数据管理。
  • 基于 Unity Catalog 构建,Silver/Gold 层使用托管 Iceberg 表格式。

我的角色

  • 参与平台的架构设计与部署。
  • 在数据层之上构建了三层架构的 AI 自助查询应用,让生产部门无需经过数据团队即可自行查询所需数据。
  • 实现权限分离,确保不同角色与部门只能访问各自授权范围内的数据。
← 返回项目列表

其他项目

签证名额监控机器人进行中

面向澳大利亚签证申请的无服务器预约名额监控器——一旦放出新名额即实时推送提醒,基于 Playwright、Vercel Cron 与 Supabase 构建。

Node.jsPlaywrightSupabase
PostgreSQL 性能优化工具集已完成

一套用于诊断与解决高流量 PostgreSQL 集群慢查询问题的工具集,涵盖 SQL 脚本、pgBadger 看板与 Python 自动化脚本。

PostgreSQLPythonpgBadger
NetSuite–Boomi 集成框架已完成

连接 NetSuite ERP 与 Boomi AtomSphere 的企业级双向数据管道,每天处理 5 万+ 笔交易,端到端延迟低于 3 秒。

NetSuiteBoomi AtomSphereREST API