#创作挑战赛#

Logstash 简介和安装一、简介

Logstash 是一个开源的数据采集引擎。它可以动态地将不同来源的数据统一采集,并按照指定的数据格式进行处理后,将数据加载到其他的目的地。最开始,Logstash 主要是针对日志采集,但后来 Logstash 开发了大量丰富的插件,所以,它可以做更多的海量数据的采集。

它可以处理各种类型的日志数据,例如:Apache 的 web log、Java 的 log4j 日志数据,或者是系统、网络、防火墙的日志等等。它也可以很容易的和 Elastic Stack 的 Beats 组件整合,也可以很方便的和关系型数据库、NoSQL 数据库、kafka、RabbitMQ 等整合。

大数据分析elt与etl(大数据ELK二十一)(1)

1、经典架构

大数据分析elt与etl(大数据ELK二十一)(2)

2、对比 Flume3、对比 FileBeat二、安装 Logstash1、切换到 lanson 用户2、下载 Logstash

Logstash 7.6.1 | Elastic

3、解压 Logstash 到指定目录4、运行测试

cd /export/server/es/logstash-7.6.1/ bin/logstash -e 'input { stdin { } } output { stdout {} }'

等待一会,让 Logstash 启动完毕

然后,随便在控制台中输入内容,等待 Logstash 的输出

{ "host" => "node1", "message" => "hello world", "@version" => "1", "@timestamp" => 2021-12-05T08:32:31.007Z }

ps:

-e 选项表示,直接把配置放在命令中,这样可以有效快速进行测试

,