`
housheng33
  • 浏览: 231094 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

ETL自动化设计思路

    博客分类:
  • BI
 
阅读更多
这段时间很充实!

工具:DB2  JAVA 存储过程

1:分析业务,整理成每一主题需要的维与指标,形成源PDM!

2:分析以前的业务系统中的表,并形成主题的数据来源于业务库的字段映射,形成源表-中间表-目标表的,形成维度表。形成仓库PDM

3:根据仓库PDM,建立好各个表。

4:ETL,java写一个方法,参数为{存储过程名,目标表名,目标字段,源表名(一个或者多个),源表字段,条件,抽取起始时间,抽取终止时间}

//异常处理
//日志记录
//索引处理

最终生成存储过程。将各个存储过程以及各参数的信息写到存储过程表中。

调用为:call 存储过程名(抽取起始时间,抽取终止时间)

5:DB2任务中心,sql 存储过程表,执行存储过程自动完成ETL

前3步重点在业务模型!
后2步重点在设计、存储过程!
以上是两个月的小结!




接下来:FM,TS,AS,BI
qq:331932672
分享到:
评论

相关推荐

    ETL测试的自动化执行及回归

    NULL 博文链接:https://liuzhiqiangruc.iteye.com/blog/1180973

    ETL开发设计项目案例

    ETL开发设计项目案例ETL开发设计项目案例ETL开发设计项目案例ETL开发设计项目案例ETL开发设计项目案例ETL开发设计项目案例ETL开发设计项目案例ETL开发设计项目案例ETL开发设计项目案例ETL开发设计项目案例ETL开发...

    商场数据仓库ETL系统架构设计.pdf

    商场数据仓库ETL系统架构设计.pdf商场数据仓库ETL系统架构设计.pdf商场数据仓库ETL系统架构设计.pdf商场数据仓库ETL系统架构设计.pdf商场数据仓库ETL系统架构设计.pdf商场数据仓库ETL系统架构设计.pdf商场数据仓库...

    传统数据仓库ETL设计报告

    ETL升级一方面采用元数据驱动ETL的方式,通过配置元数据驱动ETL;另一方面,在ETL调度控制方面,采用结合数据质量校验的ETL调度

    ETL总体思路

    ETL总体思路,解决的主要过程,包括采集,清洗,统计,加载每一个环节

    ETL设计与开发实践

    ETL设计与开发实践

    基于电信数据仓库系统的ETL研究与设计

    基于电信数据仓库系统的ETL研究与设计 ...式编辑整个ETL过程,实现部分图形化交互界面,并针对电信系统大数据量的特点,提出性能优化及改进的方法,提高了ETL效率。 关键词 ETL 电信 数据仓库 大数据量

    ETL工具设计

    ETL 工具 设计 很实用,概括程度高。

    ETL实战ETL实战

    ETL实战ETL实战ETL实战ETL实战

    ETL设计说明书.doc

    ETL设计说明书.doc

    BI 项目中ETL 设计与探究

    BI 项目中ETL 设计与探究 BI 项目中ETL 设计与探究

    一个ETL系统的设计与实现

    项目试图研发出一个通用的ETL系统,当然对于这样的一个庞大的系统来说是不可能一墩而就的,所以本文就对这个系统的设计思路、关键技术以及初步实现进行了较详细的描述,最后通过实验验证这个系统的初步效果

    支持国产ETL etl-engine 用go写的轻量级etl引擎 方便集成到各企业中

    该产品由etl-engine引擎和etl-designer云端设计器及etl-crontab调度组成。etl-engine引擎负责解析ETL配置文件并执行ETL任务;etl-designer云端设计器通过拖拉拽的方式生成etl-engine引擎可识别的ETL任务配置文件;...

    论文研究-基于数据仓库的通用ETL工具的设计与实现.pdf

    讨论了一种基于异构数据源通用ETL工具的设计方法和实现过程,它能实现异种数据源的数据转换,并将数据装载到中心数据库中,具有一定易用性、灵活性和扩展性。该工具根据索引库来获得目标数据库与源数据库的映射关系...

    Informatica技术保障江苏电信规范化ETL开发

    中国电信股份有限公司江苏分公司(简称江苏电信),为适应电信行业迅速变化市场竞争环境,希望整合全业务数据,要求ETL整合平台在ETL工具的辅助下,需要达到系统可配置、可管控、可二次开发、自动化流程等要求。...

    工作量最大的ETL设计蓝图.doc

    工作量最大的ETL设计蓝图,对BI项目中的ETL工作进行讲解和描述。

    很全的ETL学习资料

    BI项目中ETL设计与思考.docx DataStage(ETL)技术总结.docx ETL增量抽取.docx ETL增量抽取方式.docx ETL工具点评.docx ETL常见性能瓶颈.docx ETL构建企业级数据仓库五步法.docx ETL高级教程.docx 三大主流ETL工具选型...

    数据集成平台中ETL的研究与设计

    数据集成平台中ETL的研究与设计 数据仓库 数据同步 ETL实现

    ETL规范.doc

    ETL开发设计规范,包括ETL概述,开发规范,设计规范

    ETL中的数据清洗设计

    ETL中的数据清洗设计 ETL处理方式 数据清洗的原理及在ETL中的应用模型

Global site tag (gtag.js) - Google Analytics