Cloudera运维

摘要:
但是通过df-h,我们发现有一个100%的,即cm_进程,这个分区只有1.9G,这是100%。
1. 增加一个节点
1. 拷贝cm的jar包到该节点
2. 设置hostname(hostnamectl set-hostname XXX),然后修改hosts文件
3. 所有的节点添加该hostname
4. 修改agent配置文件,指向cloudera manager节点;启动cm
5. 进入到管理页面,host -> add new hosts to cluster ->选择已经被识别出来机器(只要启动agent,配置正确就可以被识别出来,手动发现的流程,证明agent没有起来或者配置异常,手动发现的流程,在安装过程将会从网上下载安装包,而不是parcels那种安装方式)
因为启动cm之后才修改hostname,导致被cloudera manager识别为127.0.0.1,没事,只要重启agent即可。
2. role日志分析
  cloudera异常日志中的role日志虽然在安装页面是空,但是点进去之后将会看到详细的日志;比如zookeeper中就是告诉我: Unable to access datadir, exiting abnormally,但是datadir是/var/lib/zookeeper啊,有啊;后来点入role full log之后,才看到是:
error occured while purging.
org.apache.zookeeper.server.persistence.FileTxnSnapLog$DatadirException: Missing data directory /var/lib/zookeeper/version-2, automatic data directory creation is disabled (zookeeper.datadir.autocreate is false). Please create this directory manually.
    at org.apache.zookeeper.server.persistence.FileTxnSnapLog.<init>(FileTxnSnapLog.java:102)
    at org.apache.zookeeper.server.PurgeTxnLog.purge(PurgeTxnLog.java:68)
    at org.apache.zookeeper.server.DatadirCleanupManager$PurgeTask.run(DatadirCleanupManager.java:140)
    at java.util.TimerThread.mainLoop(Timer.java:555)
    at java.util.TimerThread.run(Timer.java:505)
够详细吧,因为之前装了dcos,所以估计这个datadir的目录结构被篡改了;于是在zookeeper的配置中将zookeeper.datadir.autocreate设置为true,问题解决。
3. 重装CDH集群
  cloudera的删除一个集群之后,将会删掉/opt/cloudera/parcles下面所有的包;
  重装集群的话,需要把dfs以及/var/lib/zookeeper文件夹删掉。
4. cloiudera manager的硬盘空间不够
  安装完毕kerberos之后,启动集群失败,发现zookeeper启动的时候爆了一个异常:Error found before invoking supervisord: [Errno 28] No space left on device;发现应该是slave1机器上面的。但是通过df -h发现确实有一个100%的,就是cm_processes,这个分区只有1.9G,已经100%了。
  于是进去看,其实关键是四个文件夹很占用空间:*-collect-host-statistics文件夹都是上百M的,本来分配的空间就小,这几个文件夹直接把这个分区给干满了。因为一看是收集的统计信息,就直接删掉,系统OK了。

免责声明:文章转载自《Cloudera运维》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇css全局格式化P2184 贪婪大陆下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

JavaWeb入门——背景知识

JavaWeb入门——背景知识 摘要:本文主要介绍了Web服务器的相关知识。 概念 什么是JavaWeb JavaWeb,是用Java技术来解决相关Web互联网领域的技术的总称。Web包括:Web服务器和Web客户端两部分。 Java在最早Web客户端的应用有Java Applet程序,不过这种技术在很久之前就已经被淘汰了。Java在服务器端的应用非常丰富...

Windows下Apache的优化

(1)首选查看apache的工作模式windows下的查看apache的工作模式命令:httpd -l如果列出mod_win32.c,则表示是 win32.c 工作方式。 列出的全部内容如下所示:core.cmod_win32.cmpm_winnt.chttp_core.cmod_so.cmpm_winnt.c是专门针对Windows NT优化的MPM(多...

Maven常用插件整理

maven内置变量 ${basedir}表示项目根目录,即包含pom.xml文件的目录; ${version}表示项目版本; ${project.basedir}同${basedir}; ${project.baseUri}表示项目文件地址; ${maven.build.timestamp}表示项目构件开始时间; ${maven.build.t...

Hive分析hadoop进程日志

想把hadoop的进程日志导入hive表进行分析,遂做了以下的尝试。 关于hadoop进程日志的解析 使用正则表达式获取四个字段,一个是日期时间,一个是日志级别,一个是类,最后一个是详细信息, 然后在hive中建一个表,可以用来方便查询。 2015-12-18 22:23:23,357 INFO org.apache.hadoop.yarn.server...

http 本地服务器设置任意IP访问对应的文件夹

使用软件:wamp 一、配置apache的host访问路径 打开下面“wampinapacheApache2.4.4conf”路径下的httpd.conf文件,然后我希望将“自定义IP”的配置代码放在“D:wampinapacheApache2.4.4confextra”路径下的httpd-vhosts.conf里面,并让apache访问到,我需要将htt...

Web渗透——web服务器指纹识别

1、概述 Web服务器指纹识别是渗透测试人员非常重要的一个任务。了解正在运行的web服务器类型和版本能让测试者更好去测试已知漏洞和大概的利用方法。 目前市场上存在几种不同的web服务器提供商和软件版本,了解被测试的web服务器的类型,将会在渗透测试过程中有很大的帮助,甚至会改变测试的路线。 你可以通过发送web服务器特定的命令并分析输出结果来得到这些信息,...