云计算
这篇文章主要介绍了elk之logstash如何安装与导入数据，具有一定借鉴价值，感兴趣的朋友可以参考下，希望大家阅读完这篇文章之后大有收获，下面让小编带着大家一起了解一下。
数据集下载
下载地址：https://grouplens.org/datasets/movielens/
我们选择最小数据集即可logstash 下载与安装
首先去官网下载 logstash 安装包：https://www.elastic.co/downloads/logstash
logstash download
如果下载速度太慢可以选用这个代理地址下载：http://mirror.azk8s.cn/elastic/logstash/
azk8s
下载完安装包并解压进入config目录：
logstash-config
同时配置如下内容,你只需要按照你的数据集的路径改一下配置文件中最开始的path即可：
logstash.confinput {
file {
path => \”/users/tanjian/desktop/logstash-7.6.1/movielens/ml-latest-small/movies.csv\” # 这里指定数据集路径
start_position => \”beginning\”
sincedb_path => \”/dev/null\”
}
}
filter {
csv {
separator => \”,\”
columns => [\”id\”,\”content\”,\”genre\”]
}
mutate {
split => { \”genre\” => \”|\” }
remove_field => [\”path\”, \”host\”,\”@timestamp\”,\”message\”]
}
mutate {
split => [\”content\”, \”(\”]
add_field => { \”title\” => \”%{[content][0]}\”}
add_field => { \”year\” => \”%{[content][1]}\”}
}
mutate {
convert => {
\”year\” => \”integer\”
}
strip => [\”title\”]
remove_field => [\”path\”, \”host\”,\”@timestamp\”,\”message\”,\”content\”]
}
}
output {
elasticsearch {
hosts => \”http://localhost:9200\”
index => \”movies\”
document_id => \”%{id}\”
}
stdout {}
}
logstash 运行
配置好上面的logstash.conf文件后，我们就可以启动 logstash 并开始导入数据了：
sudo ./bin/logstash -f config/logstash.conf
如下图 logstash 日志所示，正在导入数据集：
logstash log打开 kibana 查看数据
在查看数据之前，我们需要打开http://localhost:5601通过 kibana 创建一个 index pattern：
index pattern
之后，我们就可以通过discover去查看我们的数据了：
discover
剩下的就交给你自己折腾吧，你可以去dev tools通过 qsl 语法搜索数据熟悉一下语法。
感谢你能够认真阅读完这篇文章，希望小编分享的“elk之logstash如何安装与导入数据”这篇文章对大家有帮助，同时也希望大家多多支持箭头云，关注资讯频道，更多相关知识等着你来学习!