首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >地图还原过程中HBase查找的替换

地图还原过程中HBase查找的替换
EN

Stack Overflow用户
提问于 2016-03-12 18:00:35
回答 1查看 101关注 0票数 1

在mapreduce处理过程中,我需要在一次地图执行中多次查找hbase。这正成为一个瓶颈,因为hbase正变得非常缓慢。在一个映射过程中,查找是多次的,例如每行包含多个雇员is,员工信息存储在hbase上。

还有什么可以替代的呢?hbase对于这样的处理应该是缓慢的吗?是否最好将Hbase作为hdfs文本,然后进行连接而不是查找。

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2016-03-12 21:15:19

在不知道你的工作到底在做什么的情况下,要给出一个完美的答案有点困难,但我会考虑使用TableInputFormatBase (与MultipleInputs一起将HBase表与其他数据一起读取到映射器中),然后加入员工ID。这可能意味着,你现在需要两个乔布斯,但这可能比多次查找更快,而且肯定会扩展得更好。

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/35961338

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档