HBase中此类异常解决记录org.apache.hadoop.ipc.RemoteException(java.io.IOException):

时间:2022-12-13 13:17:41

ERROR: Can't get master address from ZooKeeper; znode data == null   一定注意这只是问题的第一层表象,真的问题是:

File /hbase/.tmp/hbase.version could only be replicated to 0 nodes instead of minReplica

网上很多都是叫用两种方式解决

  • stop/start  重启hbase
  • 格式化 hdfs namenode -format,不能随随便便就格式话hadoop的namenode

HBase中此类异常解决记录org.apache.hadoop.ipc.RemoteException(java.io.IOException):

按照上述方式试一两个小时找问题,没有找到,最后问题就在每个应用的日志里藏着

Hbase中启动中很多异常的坑会遇到,但是请一定不要慌,坑多是因为我们对她不熟悉,我找了一上午的错误例子,在今年5月份我记得我可以启动单机的hbase hadoop zookeeper,由于我的阿里云服务器要用作别用,我就关闭了三个应用,9月我再次启动时,就不能启动了。

org.apache.hadoop.ipc.RemoteException(java.io.IOException): File /hbase/.tmp/hbase.version could only be replicated to  nodes instead of minReplication (=).  There are  datanode(s) running and no node(s) are excluded in this operation.
at org.apache.hadoop.hdfs.server.blockmanagement.BlockManager.chooseTarget4NewBlock(BlockManager.java:)
at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getAdditionalBlock(FSNamesystem.java:)
at org.apache.hadoop.hdfs.server.namenode.NameNodeRpcServer.addBlock(NameNodeRpcServer.java:)
at org.apache.hadoop.hdfs.server.namenode.AuthorizationProviderProxyClientProtocol.addBlock(AuthorizationProviderProxyClientProtocol.java:)
at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolServerSideTranslatorPB.addBlock(ClientNamenodeProtocolServerSideTranslatorPB.java:)
at org.apache.hadoop.hdfs.protocol.proto.ClientNamenodeProtocolProtos$ClientNamenodeProtocol$.callBlockingMethod(ClientNamenodeProtocolProtos.java)
at org.apache.hadoop.ipc.ProtobufRpcEngine$Server$ProtoBufRpcInvoker.call(ProtobufRpcEngine.java:)
at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:)
at org.apache.hadoop.ipc.Server$Handler$.run(Server.java:)
at org.apache.hadoop.ipc.Server$Handler$.run(Server.java:)
at java.security.AccessController.doPrivileged(Native Method)
at javax.security.auth.Subject.doAs(Subject.java:)
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:)
at org.apache.hadoop.ipc.Server$Handler.run(Server.java:) at org.apache.hadoop.ipc.Client.call(Client.java:)
at org.apache.hadoop.ipc.Client.call(Client.java:)
at org.apache.hadoop.ipc.ProtobufRpcEngine$Invoker.invoke(ProtobufRpcEngine.java:)
at com.sun.proxy.$Proxy17.addBlock(Unknown Source)
at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolTranslatorPB.addBlock(ClientNamenodeProtocolTranslatorPB.java:)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:)
at java.lang.reflect.Method.invoke(Method.java:)
at org.apache.hadoop.io.retry.RetryInvocationHandler.invokeMethod(RetryInvocationHandler.java:)
at org.apache.hadoop.io.retry.RetryInvocationHandler.invoke(RetryInvocationHandler.java:)
at com.sun.proxy.$Proxy18.addBlock(Unknown Source)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:)
at java.lang.reflect.Method.invoke(Method.java:)
at org.apache.hadoop.hbase.fs.HFileSystem$.invoke(HFileSystem.java:)
at com.sun.proxy.$Proxy19.addBlock(Unknown Source)
at org.apache.hadoop.hdfs.DFSOutputStream$DataStreamer.locateFollowingBlock(DFSOutputStream.java:)
at org.apache.hadoop.hdfs.DFSOutputStream$DataStreamer.nextBlockOutputStream(DFSOutputStream.java:)
at org.apache.hadoop.hdfs.DFSOutputStream$DataStreamer.run(DFSOutputStream.java:)
-- ::, INFO [app:.activeMasterManager] regionserver.HRegionServer: STOPPED: Unhandled exception. Starting shutdown.
-- ::, INFO [master/app.server/172.16.216.42:] regionserver.HRegionServer: Stopping infoServer
-- ::, INFO [master/app.server/172.16.216.42:] mortbay.log: Stopped SelectChannelConnector@0.0.0.0:

 我打开hbase hadoop zookeeper 三者中data缓存文件,里面还是5月份的数据,比较坑就是每次重启都不自己覆盖以前的文件的么。这里就以后不要用kill 去关掉线程了

[root@app hbase-1.2.-cdh5.10.0]# cd data/tmp/

重新启动 hbase hadoop zookeeper  进入 hbase shell命令客户端

[root@app bin]# ./hbase shell
-- ::, INFO [main] Configuration.deprecation: hadoop.native.lib is deprecated. Instead, use io.native.lib.available
-- ::, WARN [main] util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
HBase Shell; enter 'help<RETURN>' for list of supported commands.
Type "exit<RETURN>" to leave the HBase Shell
Version 1.2.-cdh5.10.0, rUnknown, Fri Jan :: PST hbase(main)::> list
TABLE
row(s) in 0.3760 seconds => []
hbase(main)::>

最后强调一下jps 查看最近启动的进程中是不是全部启动,我这里是单机版的,仅供参考。

[root@app tmp]# jps
Jps
HRegionServer
HMaster
QuorumPeerMain
DataNode
SecondaryNameNode
Main
NameNode
[root@app tmp]#

HBase中此类异常解决记录org.apache.hadoop.ipc.RemoteException(java.io.IOException):的更多相关文章

  1. 运行基准测试hadoop集群中的问题:org&period;apache&period;hadoop&period;ipc&period;RemoteException&colon; java&period;io&period;IOException&colon; File &sol;benchmarks&sol;TestDFSIO&sol;io&lowbar;data&sol;test&lowbar;

    在master(即:host2)中执行 hadoop jar hadoop-test-1.1.2.jar DFSCIOTest -write -nrFiles 12 -fileSize 10240 - ...

  2. org&period;apache&period;hadoop&period;ipc&period;RemoteException&lpar;java&period;io&period;IOException&rpar;

    昨晚突然之间mr跑步起来了 jps查看 进程都在的,但是在reduce任务跑了85%的时候会抛异常 异常情况如下: 2016-09-21 21:32:28,538 INFO [org.apache.h ...

  3. hive运行query语句时提示错误:org&period;apache&period;hadoop&period;ipc&period;RemoteException&colon; java&period;io&period;IOException&colon; java&period;io&period;IOException&colon;

    hive> select product_id, track_time from trackinfo limit 5; Total MapReduce jobs = 1 Launching Jo ...

  4. org&period;apache&period;hadoop&period;ipc&period;RemoteException&colon; java&period;io&period;IOException&colon;XXXXXXXXXXX could only be replicated to 0 nodes&comma; instead of 1

    原因:Configured Capacity也就是datanode 没用分配容量 [root@dev9106 bin]# ./hadoop dfsadmin -report Configured Ca ...

  5. 异常-Caused by&colon; org&period;apache&period;hadoop&period;ipc&period;RemoteException&lpar;org&period;apache&period;hadoop&period;security&period;AccessControlException&rpar;&colon; Permission denied&colon; user&equals;hdfs&comma; access&equals;WRITE&comma; inode&equals;&quot&semi;&sol;hbase&quot&semi;&colon;root&colon;supergroup&colon;drwxr-xr-x

    1 详细异常 Caused by: org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.security.AccessControlExce ...

  6. hbase报错org&period;apache&period;hadoop&period;ipc&period;RemoteException&lpar;java&period;lang&period;NullPointerException&rpar;&colon; java&period;lang&period;NullPointerException

    这个错误找了好长时间,日志看半天,找度娘没什么用,再看*,上面有几篇相关的帖子,但是没人回答. 看半天,没有cause,只好到idea中去看sortLocalSorts源码,结 ...

  7. 线上问题!----------org&period;apache&period;catalina&period;connector&period;ClientAbortException&colon; java&period;io&period;IOException&colon; Broken pipe

    1.问题出现 昨晚项目在上线的时候因为推广的原因,新增的大量请求.在八点的时候. org.apache.catalina.connector.ClientAbortException: java.io ...

  8. org&period;apache&period;catalina&period;connector&period;ClientAbortException&colon; java&period;io&period;IOException&colon; 您的主机中的软件中止了一个已建立的连接。

    日志文件中有“java.io.IOException: 您的主机中的软件中止了一个已建立的连接.”错误 org.apache.catalina.connector.ClientAbortExcepti ...

  9. org&period;apache&period;catalina&period;connector&period;ClientAbortException&colon; java&period;io&period;IOException&colon; 你的主机中的软件中止了一个已建立的连接。

    org.apache.catalina.connector.ClientAbortException: java.io.IOException: 你的主机中的软件中止了一个已建立的连接. at org ...

随机推荐

  1. 将Excel数据导入数据库

    Excel如下,这页工作表名叫“线路” 数据库表如下 using System; using System.Collections.Generic; using System.Linq; using ...

  2. Multiple reportviewers on one page With reportviwer 11&period;0

    Hi,  evreryone: When I use  VS 2012  to create report with reportviwer 11.0, I  meet a  problem abou ...

  3. eclipse上传显示svn上传者名

    这里来记录下eclipse上传显示svn上传者名. 如图所示,修改即可.

  4. 自定义toast功能

    http://download.csdn.net/detail/caryt/8105031

  5. Mac OS X下Maven的安装与配置

    Mac OS X 安装Maven: 下载 Maven, 并解压到某个目录.例如/Users/robbie/apache-maven-3.3.3 打开Terminal,输入以下命令,设置Maven cl ...

  6. Maven--几个需要补充的问题(三)

    <Maven--搭建开发环境(一)> <Maven--构建企业级仓库(二)> <Maven—几个需要补充的问题(三)> 前两篇由于篇幅太长,为了给读者理解方便,这篇 ...

  7. 使用SharedPreferences存储用户配置信息

    用SharedPreferences来保存用户的基本配置信息非常的方便,实现起来也很容易:以下是一个简单的例子: 效果截图:    主要代码: public class MainActivity ex ...

  8. 快速部署docker

    前言:docker就不用说了,好东西啊.更好的利用服务器的资源,各个服务是相互隔离的,文件的存放更加规律,也好清理空间及数据备份 docker安装-----社区版ce(免费的,另一版本收钱的) 系统: ...

  9. STM32 &plus; RC522(SPI2 和 模拟SPI)

    STM32 + RC522(SPI2 和 模拟SPI) 一. STM32 + RC522(SPI2 模式) 1. 头文件: rc522.h #include "stm32f10x.h&quo ...

  10. 【LOJ】&num;2182&period; 「SDOI2015」寻宝游戏

    题解 终于了解怎么动态维护虚树了 就是把点按照dfs序排个序啊 这道题显然是求虚树上所有边长的两倍 我们把dfs序排完序,相邻两个点加上路径长(包括首尾),删除的时候删一个点减去它到两边再加上新近相邻 ...