我是靠谱客的博主 生动小伙,最近开发中收集的这篇文章主要介绍clickhouse将两列组成map,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

azkaban的business date在上下游依赖中有着重要作用,却常常被忽略,我们都知道下游任务依赖上游任务,但具体问题是:

  • 下游任务依赖的是哪个上游分区任务的哪个分区任务?
  • 下游和上游同样是小时任务,但下游是每小时一次,上游是每两小时一次怎么办?
  • 下游长周期依赖上游短周期呢?
  • 下游短周期依赖上游长周期呢?

同样的周期:

上下游通过business date关联,同样的business date的任务具有具体的依赖关系,上游每小时的任务不影响下游两小时一次的任务,上游两小时一次的任务却会让配上依赖的下游也变成两小时一次.

上游每小时一次,下游两小时一次,这个比较重要,下游两小时一次的任务会依赖上游两个小时的分区的任务。两点的任务会依赖上游一点和两点的任务,如果一点的任务没完成,下游两点的任务也会阻塞。

 

不同的周期:

长周期依赖短周期:

小时调度任务依赖每十分钟调度任务,实际依赖的是该周期内上游该flow所有十分钟调度任务,失败一个下游都不会执行。(与上面相同调度周期任务依赖相同)

短周期依赖长周期:

分钟任务依赖小时任务,分钟任务也会变成小时任务,分钟任务business date变成202109041500,一个小时下来只有这一个分区

大家可能发现了,不管周期是否相同,长依赖短算是正常,短依赖长周期的任务是会不正常的,频率高的没办法正常依赖频率低的任务。所以这种情况最好不要配依赖。

最后

以上就是生动小伙为你收集整理的clickhouse将两列组成map的全部内容,希望文章能够帮你解决clickhouse将两列组成map所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(38)

评论列表共有 0 条评论

立即
投稿
返回
顶部