Logstash消费Kafka输出至Elasticsearch配置文件示例

摘要:
输入{kafka{bootstrap_servers=˃“192.168.32.36:9092192.168.32.37:9092192.168.38.32.38:9092”topics=˃“msa log prod”编解码器=˃“json”group_id=˃“msa-log prod elsearch”consumer_threads=˃4decorate_events=˃true}kafka{boottrap_servers˃˃“192.168.32.36:9092192.162.32.37:909219 2.168.32.38:902”topics=˃“msa日志测试”编解码器-˃“json“group_id=˃”msa log test elsearch“consumer_tthreads=˃2decorate_eevents=˃true}}}输出{if[inv]==“prod”{elasticsearch{hosts=˃[“192.168.32.36:9200”,“192.168.32.37:9200”、“192.168.32.38:9200”]index=˃“msa log prod-%{+YYYY.MM.dd}”}}if[ienv]==”test“{elaticsearch{hosts=˃“192.168.32.36:9200”,“92.16832.37:92000”,“”192.168.32.38:9200“]index=˃”msa log test-%{+YYYY.MM.mdd}“}描述:kafka消息格式应为json并包含env要区分的字段如果只有一个输入和输出,则可以删除If判断。
 
复制代码
input
{
    kafka
    {
        bootstrap_servers => "192.168.32.36:9092,192.168.32.37:9092,192.168.32.38:9092"
        topics => "msa-log-prod"
        codec => "json"
        group_id => "msa-log-prod-elsearch"
        consumer_threads => 4
        decorate_events => true
    }
    kafka
    {
        bootstrap_servers => "192.168.32.36:9092,192.168.32.37:9092,192.168.32.38:9092"
        topics => "msa-log-test"
        codec => "json"
        group_id => "msa-log-test-elsearch"
        consumer_threads => 2
        decorate_events => true
    }
}

output
{
    if [env] == "prod" {
        elasticsearch
        {
            hosts => ["192.168.32.36:9200","192.168.32.37:9200","192.168.32.38:9200"]
            index => "msa-log-prod-%{+YYYY.MM.dd}"
        }
    }
    if [env] == "test" {
        elasticsearch
        {
            hosts => ["192.168.32.36:9200","192.168.32.37:9200","192.168.32.38:9200"]
            index => "msa-log-test-%{+YYYY.MM.dd}"
        }
    }
}
复制代码

说明:需要kafka消息格式是json并且包含一个env字段用于区分环境,如果仅一个input和output可以去掉if判断。

免责声明:文章转载自《Logstash消费Kafka输出至Elasticsearch配置文件示例》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇chrome开发者工具浅析--timeline342 版本控制系统:概述,本地版本控制系统,集中式版本控制系統,分布式版本控制系統下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

Nginx补充

[root@localhost ~]# yum -y install pcre-devel zlib-devel openssl-devel gcc gcc-c++ make [root@localhost ~]# useradd -M -s /sbin/nologin nginx [root@localhost ~]# tar xf nginx-1...

log4net 配置

1.在项目中引入log4net.dll组件; 2.在App.congfig中做如下修改(可省略) 在加入如下内容: 这个节点最好放在<configuration>下的第一个位置,不然在服务里会报错。 <configSections> <section name="log4net" type="log4net.Config.Lo...

Kafka系列二之部署与使用

Kafka部署与使用 写在前面从上一篇Kafka的架构介绍和安装中,可能,你还一直很蒙,kafka到底该怎么使用呢?接下来,我们就来介绍Kafka的部署与使用。上篇文章中我们说到,Kafka的几个重要组成是:1.producer 2.consumer 3.broker 4.topic .因此我们就是围绕这几个组件来使用我们的Kafka. 如何开始呢?...

ELK&amp;amp;ElasticSearch5.1基础概念及配置文件详解【转】

1. 配置文件 elasticsearch/elasticsearch.yml 主配置文件 elasticsearch/jvm.options jvm参数配置文件 elasticsearch/log4j2.properties 日志配置文件 2. 基本概念 接近实时(NRT) Elasticsearch 是一个接近实时的搜索...

学习Android camera笔记 &amp;amp; 调用流程

参考:http://blog.csdn.net/xingyu19871124/article/details/7750189http://blog.csdn.net/BonderWu/article/details/5814278http://blog.chinaunix.net/uid-2630593-id-3307176.htmlhttp://zhid...

Elasticsearch与MySQL对应关系表

MySQL 中的数据库(DataBase),等价于 ES 中的索引(Index)。 MySQL 中一个数据库下面有 N 张表(Table),等价于1个索引 Index 下面有 N 多类型(Type)。 MySQL 中一个数据库表(Table)下的数据由多行(Row)多列(column,属性)组成,等价于1个 Type 由多个文档(Document)和多...