Bonjour,
J'utilise Logstash et file beat pour l'ingestion de mon fichiers CSV dans Elastisearch:
Est-il possible d'ajouter une colonne date de fraicheur en utilisant Logstash:
comme ci dissous:
Bonjour,
J'utilise Logstash et file beat pour l'ingestion de mon fichiers CSV dans Elastisearch:
Est-il possible d'ajouter une colonne date de fraicheur en utilisant Logstash:
comme ci dissous:
Oui tu peux utiliser le plugin mutate add_field de logstash.
Oui tu peux utiliser le plugin mutate add_field de logstash.
En utilisant comme base le champ @timestamp
qui est normalement généré par LS au moment où il process la ligne.
je sais il existe le plugin mutate add_field de logstash pour ajouter une colonne
ce qui m’intéresse ajouter la colonne est stocker dans cette colonne une seul fois la date 14/05/2020
Normalement chaque évènement est traité indépendamment des autres. Donc à part écrire une sorte de booléen dans un fichier disant que tu as déjà écrit la valeur, je ne vois pas.
Peut-être que les plugins faits par @fbaligand pourraient aider mais pas certain.
Bonjour,
Effectivement, avec le plugin aggregate (dont je suis l'heureux créateur ) , tu devrais pouvoir solutionner ton besoin.
Voici la conf aggregate que je mettrai :
filter {
if [date_fraicheur] {
aggregate {
task_id => "%{host}%{path}"
code => "map['date_fraicheur'] = event.get('date_fraicheur')"
inactivity_timeout => 5
}
}
else {
aggregate {
task_id => "%{host}%{path}"
code => "event.set('date_fraicheur', map['date_fraicheur']) if map.has_key?('date_fraicheur')"
}
}
}
Pour être sur que ça marche bien, je t'invite à mettre "-w 1" au lancement de Logstash, car l'ordre de traitement des lignes CSV est important.
Bonjour,
Je ne vois comment la colonne date_fraicheur va être crée comme ci dessous:
Je pars du principe que tu as cela comme prerequis avant le filtre aggregate :
This topic was automatically closed 28 days after the last reply. New replies are no longer allowed.
© 2020. All Rights Reserved - Elasticsearch
Apache, Apache Lucene, Apache Hadoop, Hadoop, HDFS and the yellow elephant logo are trademarks of the Apache Software Foundation in the United States and/or other countries.