а в кибану ее должен доставить или логстеш или сам эластик, с каким-то индексом.
cоостветственно проверьте ностройку секций в filebeat.yml
logstash output или elasticsearch
ну и дополнительно проверьте telnet-ом порты
С портами и основными настройками logstash, filebeat и elasticsearch (он доставляет в Kibana) не должно быть проблем: до меня на этом сервере все преднастроил мой предшественник, чтобы забирать логи Nginx и Postfix (собственно они и забираются, а моя задача добавить к ним ещё и DNS-запросы).
Что явно не так с самим логами dns-запросов. Отключил все фильтры и просто "в чистую" отдаю все логи - nginx'а и postfix'а логи доходят, а dns'а всё также нет. В текстовым редакторах они открываются нормально, каких-либо ошибок я в них не вижу.
На вскидку этот паттерн не должен работать с вашими записями. А поигрался с ним в grok debugger и у меня все ломается уже на первом hostname. Я бы попробовал отладить grok в отдельно-стоящем logstash, чтобы убедиться, что все работает.
Спасибо за рекомендацию! Даже с полностью закомментарированными grok (и даже всеми фильтрами) логи nginx'а и postfix'а уходят, а dns'а - нет. Видимо проблема не только с плохо написанными паттернами?
Вы не знаете подходящих специфичных паттернов для Named(Bind 4) хотя бы для timestamp? Не могу нигде их найти: ни в официальной документации, ни просто на обыкновенных сайтах.
Нашёл проблему: было установлено условие if "_grokparsefailure" in [tags] {
drop {} }. Осталось понять почему все днс-логи пересылаемые в Кибану помечаются этим тэгом. И соответственно откидываются фильтром.
document_type и elseif [type] == "dns-query" { так же выглядит подозрительно. Во первых пробелов там явно не хватает, да и потом мы типы больше не используем. Я бы вместо него просто fields добавил и проверил, что он там действительно появляется.
Я несколько подправил grok. Но как я написал выше - проблема в тэге. Если закомментировать блок if "_grokparsefailure" in [tags] {
drop {} } , то до Кибаны доходит (видно в Дискавери), но паттерны не применяются. Нет возможности настроить Дашборд и графики. Все что доходит до Кибаны помечается тэгом _grokparsefailure. Пытаюсь понять почему.
Apache, Apache Lucene, Apache Hadoop, Hadoop, HDFS and the yellow elephant
logo are trademarks of the
Apache Software Foundation
in the United States and/or other countries.