我在用sqoop把数据从mysql导入到hive的过程中遇到报错Error: Java.lang.RuntimeException: java.lang.RuntimeException: com.mysql.jdbc.exceptions.jdbc4.CommunicationsException: Communications link failure。在网上搜了很多方法,例如以下几种:
1.将倒入语句的hadoop001改为对应的ip地址。尝试无果。
sqoop import --connect jdbc:mysql://hadoop001:3306/d6_hive\
--username root \
--password 123456 \
--delete-target-dir \
--table city_info \
--hive-import \
--hive-overwrite \
--hive-table city_info \
--fields-terminated-by '\t'\
--lines-terminated-by '\n' \
--split-by ip
-m 2
2.拷贝一个mysql-connector-java-5.1.27-bin.jar驱动包放到sqoop的家目录下的lib目录下。我看的是要求一个最新版本才可以,所以大家可以自行下载。尝试后无果。
以上方法尝试以后均无效果,后来我就想去yarn的web界面看一下mr和log,结果发现打不开,并且一直都打不开,持续了好几天了,我在想可能是yarn出问题了。然后我就把yarn关闭重启,尝试以后依旧报错,web界面依旧打不开。后来我把这个问题抛到我们学习的内部群里,有小伙伴指导我说,你的web界面打不开,需要执行一下几部,经过整理如下。
我的环境是建立在云主机之上的。
第一步:在Windows上打开cmd(window键+R键 快捷方式)点击确定
第二步,在cmd中ping一下主机名称,如果ping不通,就ping一下主机名称对应的ip地址,如果ip地址ping通了,就说明host文件有问题,需要把主机名称与相应的ip地址对应起来。如果主机名称ping通了,如以下所示。那就说明ip是没有问题的。
第三步:看一下电脑能不能链接yarn的 IP 端口号
执行telnet hadoop001 8088 如下图所示,发现加上端口号链接是无法打开到主机的链接的。这就说明是端口号出了问题。
第四步:去linux上看一下8088端口号是否存在
打开root窗口输入 netstat -nlp |grep 8088 如下所示
也就是说端口号也是存在的,yarn也是起来的,我们可以考虑这个端口号可能被墙了。
但是我可以确定我的不是被墙了,我的是8088端口号没有在云主机里列入安全组之内,只要把8088端口加进去就可以了。