您的位置:首页 > 文旅 > 美景 > 动态网站和静态网站的区别和联系_企业登记信息查询系统_无锡网站建设seo_北京谷歌优化

动态网站和静态网站的区别和联系_企业登记信息查询系统_无锡网站建设seo_北京谷歌优化

2024/12/27 16:16:05 来源:https://blog.csdn.net/tiantang2renjian/article/details/144566110  浏览:    关键词:动态网站和静态网站的区别和联系_企业登记信息查询系统_无锡网站建设seo_北京谷歌优化
动态网站和静态网站的区别和联系_企业登记信息查询系统_无锡网站建设seo_北京谷歌优化

一、目的

在对DWD层清洗数据进行补全后,需要生成相应的补全记录,作为数据的标记

二、实施步骤

2.1 建表

create  table  if not exists  hurys_jw.dwd_data_correction_record(data_type      Int32      comment '数据类型 1:转向比,2:统计,3:评价,4:区域,6:静态排队,7:动态排队',device_no      String     comment '设备编号',id             String     comment '唯一ID',create_time    DateTime   comment '创建时间',record_type    Int32      comment '记录类型 0:补全,1:修复',day            Date       comment '日期'
)
ENGINE = MergeTree
PARTITION BY day
PRIMARY KEY (day,id)
ORDER BY (day,id)
SETTINGS index_granularity = 8192;

2.2 SQL语句

--1.2统计数据补全记录
select'2' data_type,t2.device_no,t2.id,t2.create_time,'0' record_type,cast(t2.day as String) day
from hurys_jw.dwd_statistics as t2
left join hurys_jw.ods_statistics as t3
on t3.device_no=t2.device_no and t3.create_time=t2.create_time and t3.lane_no=t2.lane_noand t3.section_no = t2.section_no and t3.coil_no=t2.coil_no
where t2.day='2024-12-16'  and  length(t3.device_no)=0
;

注意红色部分,由于DWD清洗表的device_no没有设置允许非空,因此不能使用 t3.device_no is null 作为条件

2.3 Kettle任务

2.3.1 newtime

2.3.2 替换NULL值

2.3.3 clickhouse输入

2.3.4 字段选择

2.3.5 clickhouse输出

2.3.6 Kettle任务运行

搞定!

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com