sqoop import data from database to hbase遇到的若干问题

本文解决了两个关键问题:一是从Oracle数据库导入数据到HBase时出现的Connection reset错误,通过调整Java安全设置来解决;二是针对大规模数据导入时内存不足的情况,提供了调整Hadoop配置的方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >


遇到的问题:

一、从oracle数据库向hbase导入数据时报错,Connection reset

解决:

在import命令中加入-D mapred.child.java.opts="\-Djava.security.egd=/dev/urandom"  。

参考:http://www.cnblogs.com/dalu610/p/6423820.html;https://stackoverflow.com/questions/2327220/oracle-jdbc-intermittent-connection-issue/;http://ifeve.com/jvm-random-and-entropy-source/;http://blog.csdn.net/hguisu/article/details/27305435


二、从千万级数据量大表中导入数据到hbase时,内存空间不足问题,


解决:对hadoop增加配置

参见,https://zh.hortonworks.com/blog/how-to-plan-and-configure-yarn-in-hdp-2-0/






评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值