Kafka Manager安装部署及使用

摘要:
并安装和配置kafkatool以监视和查询kafka。1.卡夫卡经理简介。为了简化开发人员和服务工程师维护Kafka集群的工作,Yahoo构建了一个基于web的工具,名为Kafka Manager。

 为了简化开发者和服务工程师维护Kafka集群的工作,yahoo构建了一个叫做Kafka管理器的基于Web工具,叫做 Kafka Manager。本文对其进行部署配置,并安装配置kafkatool对kafka进行监控、查询

一、kafka-manager 简介

       为了简化开发者和服务工程师维护Kafka集群的工作,yahoo构建了一个叫做Kafka管理器的基于Web工具,叫做 Kafka Manager。这个管理工具可以很容易地发现分布在集群中的哪些topic分布不均匀,或者是分区在整个集群分布不均匀的的情况。它支持管理多个集群、选择副本、副本重新分配以及创建Topic。同时,这个管理工具也是一个非常好的可以快速浏览这个集群的工具,有如下功能:

1.管理多个kafka集群
2.便捷的检查kafka集群状态(topics,brokers,备份分布情况,分区分布情况)
3.选择你要运行的副本
4.基于当前分区状况进行
5.可以选择topic配置并创建topic(0.8.1.1和0.8.2的配置不同)
6.删除topic(只支持0.8.2以上的版本并且要在broker配置中设置delete.topic.enable=true)
7.Topic list会指明哪些topic被删除(在0.8.2以上版本适用)
8.为已存在的topic增加分区
9.为已存在的topic更新配置
10.在多个topic上批量重分区
11.在多个topic上批量重分区(可选partition broker位置)

二、安装

1. 环境要求

复制代码
1.安装jdk8
jdk-1.8.0_60

2,kafka集群
服务器:
10.0.0.50:12181
10.0.0.60:12181
10.0.0.70:12181
软件:
kafka_2.8.0-0.8.1.1
zookeeper-3.3.6

3.系统
Linux kafka50 2.6.32-642.el6.x86_64 #1 SMP Tue May 10 17:27:01 UTC 2016 x86_64 x86_64 x86_64 GNU/Linux
复制代码

2. 下载安装 kafka-manager

2.1 .下载kafka-manager

Github地址:https://github.com/yahoo/kafka-manager

2.2.解压

unzip kafka-manager-1.3.3.7.zip -d /data/
cd /data/kafka-manager-1.3.3.7

2.3.修改配置 conf/application.properties

复制代码
[root@kafka50 conf]# pwd
/data/kafka-manager-1.3.3.7/conf
[root@kafka50 conf]# ls
application.conf  consumer.properties  logback.xml  logger.xml  nohup.out  routes
编辑配置文件application.conf

#kafka-manager.zkhosts="localhost:2181"       ##注释这一行,下面添加一行
kafka-manager.zkhosts="10.0.0.50:12181,10.0.0.60:12181,10.0.0.70:12181"
复制代码

2.4启动

bin/kafka-manager
kafka-manager 默认的端口是9000,可通过 -Dhttp.port,指定端口; -Dconfig.file=conf/application.conf指定配置文件:

nohup bin/kafka-manager -Dconfig.file=conf/application.conf -Dhttp.port=8080 &

 启动过程:

Kafka Manager安装部署及使用第5张 View Code

启动完毕后可以查看端口是否启动,由于启动过程需要一段时间,端口起来的时间可能会延后。

3.浏览器访问

 使用ip地址:端口访问

Kafka Manager安装部署及使用第6张

  三、测试 kafka-mamager

1. 新建 Cluster

点击【Cluster】>【Add Cluster】打开如下添加集群的配置界面:

输入集群的名字(如Kafka-Cluster-1)和 Zookeeper 服务器地址(如localhost:2181),选择最接近的Kafka版本(如0.8.1.1

 Kafka Manager安装部署及使用第7张

注意:如果没有在 Kafka 中配置过 JMX_PORT,千万不要选择第一个复选框。

Enable JMX Polling

如果选择了该复选框,Kafka-manager 可能会无法启动。

其他broker的配置可以根据自己需要进行配置,默认情况下,点击【保存】时,会提示几个默认值为1的配置错误,需要配置为>=2的值。提示如下。

Kafka Manager安装部署及使用第8张

新建完成后,运行界面如下:

Kafka Manager安装部署及使用第9张

 TOPIC list

Kafka Manager安装部署及使用第10张

broker

Kafka Manager安装部署及使用第11张

三、管理 kafka-mamager

 3.1.新建主题

点击【Topic】>【Create】可以方便的创建并配置主题。如下显示。

Kafka Manager安装部署及使用第12张

接下来我们根据一张图讲解

这里写图片描述

在上图一个Kafka集群中,有两个服务器,每个服务器上都有2个分区。P0,P3可能属于同一个主题,也可能是两个不同的主题。

如果设置的Partitons和Replication Factor都是2,这种情况下该主题的分步就和上图中Kafka集群显示的相同,此时P0,P3是同一个主题的两个分区。P1,P2也是同一个主题的两个分区,Server1和Server2其中一个会作为Leader进行读写操作,另一个通过复制进行同步。

如果设置的Partitons和Replication Factor都是1,这时只会根据算法在某个Server上创建一个分区,可以是P0~4中的某一个(分区都是新建的,不是先存在4个然后从中取1个)。

这里我们都设置为2,点击【Create】然后进入创建的这个主题,显示如下。

Kafka Manager安装部署及使用第14张

 3.2.查看主题

点击【topic】下面的主题名称,即可查看主题

Kafka Manager安装部署及使用第15张

----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

四、kafkatool工具简介

下载kafkatool对kafka上的数据进行监控、查看

kafkatool下载地址:http://www.kafkatool.com/download.html

下载适合自己系统的版本即可

1)连接kafka

Kafka Manager安装部署及使用第16张打开kafka tool安装目录,点击exe文件

安装完成后运行kafkatool

无需注册,直接试用

选择File下的 Add New Connection

Kafka Manager安装部署及使用第17张

设置完了,点击Test测试是否能连接,连接通了,然后点击Add,添加完成设置。出现如下界面

Kafka Manager安装部署及使用第18张

2)简单使用

配置以字符串的形式显示kafka消息体

Kafka Manager安装部署及使用第19张

Kafka Manager安装部署及使用第20张

Kafka Manager安装部署及使用第21张

或者通过如下界面配置

Kafka Manager安装部署及使用第22张

注释:更改完Content Types,要点击Update和Refresh按钮

再次查看kafka的数据:

Kafka Manager安装部署及使用第23张

 具体显示格式根据发布者上传到kafka上的数据格式为准,包括json格式、AVRQ格式等。格式不同显示信息不同。

免责声明:文章转载自《Kafka Manager安装部署及使用》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇查看FC HBA卡信息的方法shell中$*,$@,$# 的区别下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

kafka拦截器

目录 Kafka 拦截器分为生产者拦截器和消费者拦截器。 生产者拦截器允许你在发送消息前以及消息提交成功后植入你的拦截器逻辑; 而消费者拦截器支持在消费消息前以及提交位移后编写特定逻辑。 使用 当前 Kafka 拦截器的设置方法是通过参数配置完成的。生产者和消费者两端有一个相同的参数,名字叫 interceptor.classes,它指定的是一组...

kafka入门

问题导读: 1.zookeeper在kafka的作用是什么? 2.kafka中几乎不允许对消息进行“随机读写”的原因是什么? 3.kafka集群consumer和producer状态信息是如何保存的? 4.partitions设计的目的的根本原因是什么? 一、入门 1、简介 Kafka is a distributed,partitioned,rep...

使用Python读写Kafka

本篇会给出如何使用python来读写kafka, 包含生产者和消费者. 以下使用kafka-python客户端 生产者 爬虫大多时候作为消息的发送端, 在消息发出去后最好能记录消息被发送到了哪个分区, offset是多少, 这些记录在很多情况下可以帮助快速定位问题, 所以需要在send方法后加入callback函数, 包括成功和失败的处理 # -*- co...

docker 和 FastDFS上传和下载文件

1,从仓库拉取镜像 sudo docker image pull delron/fastdfs  也可以解压已经打包好的镜像文件 $ sudo docker load -i 文件路径/fastdfs_docker.tar 2,开启tracker容器   将tracker运行目录映射到宿主机的/var/fdfs/tracker目录中 sudo docker...

kafka集群搭建(windows环境下)

一、简介 Kafka 是一个实现了分布式的、具有分区、以及复制的日志的一个服务。它通过一套独特的设计提供了消息系统中间件的功能。它是一种发布订阅功能的消息系统。 1、名词介绍 Message 消息,就是要发送的内容,一般包装成一个消息对象。   Topic 通俗来讲的话,就是放置“消息”的地方,也就是说消息投递的一个容器。假如把消息看作是信封的话,那么 T...

误删节点或集群怎么办?这里有一颗后悔药

本文来自Rancher Labs 作者介绍 王海龙,Rancher中国社区技术经理,负责Rancher中国技术社区的维护和运营。拥有6年的云计算领域经验,经历了OpenStack到Kubernetes的技术变革,无论底层操作系统Linux,还是虚拟化KVM或是Docker容器技术都有丰富的运维和实践经验。 在实际使用Rancher过程中,偶尔会因为误操...