概述
azkaban的business date在上下游依赖中有着重要作用,却常常被忽略,我们都知道下游任务依赖上游任务,但具体问题是:
- 下游任务依赖的是哪个上游分区任务的哪个分区任务?
- 下游和上游同样是小时任务,但下游是每小时一次,上游是每两小时一次怎么办?
- 下游长周期依赖上游短周期呢?
- 下游短周期依赖上游长周期呢?
同样的周期:
上下游通过business date关联,同样的business date的任务具有具体的依赖关系,上游每小时的任务不影响下游两小时一次的任务,上游两小时一次的任务却会让配上依赖的下游也变成两小时一次.
上游每小时一次,下游两小时一次,这个比较重要,下游两小时一次的任务会依赖上游两个小时的分区的任务。两点的任务会依赖上游一点和两点的任务,如果一点的任务没完成,下游两点的任务也会阻塞。
不同的周期:
长周期依赖短周期:
小时调度任务依赖每十分钟调度任务,实际依赖的是该周期内上游该flow所有十分钟调度任务,失败一个下游都不会执行。(与上面相同调度周期任务依赖相同)
短周期依赖长周期:
分钟任务依赖小时任务,分钟任务也会变成小时任务,分钟任务business date变成202109041500,一个小时下来只有这一个分区
大家可能发现了,不管周期是否相同,长依赖短算是正常,短依赖长周期的任务是会不正常的,频率高的没办法正常依赖频率低的任务。所以这种情况最好不要配依赖。
最后
以上就是生动小伙为你收集整理的clickhouse将两列组成map的全部内容,希望文章能够帮你解决clickhouse将两列组成map所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复