集群故障诊断通行方法:1.cloudera manager 监控和管理软件本身出问题了(没有任何数据),集群还是好的,业务还在正常跑;2.监控软件是好的,从监控里发现了很多问题,如CPU飙高、内存飙高; Apache网站上由类似于cloudera manager的 Ambari (web-base tool) 集群内部应用故障如何来诊断,思路:只要用到Yarn的话,都会产生一个 Resource Manager log,看是在所有节点都失败了(全局变量、执行的脚本、参数有没有写对,yarn组件对应mapreduce的全局配置是不是出错,就是resource manager的配置)还是某些节点失败(看看在失败的节点上 NodeManager的日志) 是不是作业总在同一台节点上失败(资源枯竭啦?还是每个配置有问题) 若果不是,是不是Mapreduce作业没有配置好(AppMaster,Mapper,Reducer) 所有的错误诊断都要依赖日志 中心思想:看监控 看日志。
相关文章
- 03-18大数据Hadoop-Spark集群部署知识总结(一)
- 03-18【异常】org.apache.hadoop.hbase.client.RetriesExhaustedException: Failed after attempts=36, exceptions:
- 03-18Hadoop集群故障诊断
- 03-18kubernetes-3 k8s集群中的生命周期
- 03-18kubeadm部署k8s集群
- 03-18ElasticSearch搜索技术与集群架构原理(算是白话)有问题欢迎评论
- 03-18hadoop常用的操作命令
- 03-18SpringCloud(二)Eureka、集群环境配置、
- 03-18springcloud-支付和订单服务入驻Eureka集群
- 03-18hadoop 2.6.0 yarn total memory metrics 不正常