多线程、分布式任务如何向HDFS加载数据
大数据计算时,多线程与分布式的并行能够很好的加速数据的处理速度。而在大数据存储时,分布式的文件存储系统对并发的写请求支持存在天然的缺陷。这是一对天然的矛盾,暂时无法解决,只能缓和。要想缓和,可通过加层的方法实现。大数据计算与大数据存储对中间层的要求主要有两点:第一,支持并发访问,以此弥补分布式存储层的不足;第二,支持缓存,起到缓冲池作用,并支持按照一定调度策略实现对缓冲的访问。一般的关系型数据