Hola,
Estamos usando el stack 5.6.6 Kibana+ElasticSearch+Filebeat (no podemos subir la versión porque las máquinas son de 32 bits) para representar trazas de log con Kibana.
El rendimiento ha sido el adecuado hasta que hemos cargado un gran número de trazas, en concreto 41.000.000 de líneas para unos 15 días de datos, y pretendemos cargar varios meses o años. El problema lo tenemos con la visualización de datos de un mes o incluso de un día, llegando a un TimeOut en Kibana y no se representan los datos, y cuando lo hace, lo hace muy lentamente...
¿Qué soluciones podemos adoptar para mejorar el tiempo de carga de la visualización? Si añadimos a las trazas un campo ID_TRAZA que identificara unicamente cada traza... ¿se podría crear un ÍNDICE sobre este campo para agilizar la búsqueda?
ElasticSearch y Kibana no tienen cambios relevantes en la configuración, prácticamente por defecto.
El ajuste de JVM
-Xmx1G -Xms1G
Ajustes filebeat.yml
#=========================== Filebeat prospectors =============================
filebeat.prospectors:
- input_type: log
paths:
- C:\sac4\elastic5.6.6\logs\*json
### JSON configuration
json.message_key: message
json.keys_under_root: true
json.overwrite_keys: true
#json.add_error_key: false
#-------------------------- Elasticsearch output ------------------------------
output.elasticsearch:
# Array of hosts to connect to.
hosts: ["localhost:9200"]
#workers: 6
bulk_max_size: 8192
Mensaje apareciendo constantemente en ElasticSearch
[INFO] [o.e.m.j.JvmGcMonitorService] [qFb0Q93] [gc][7229] overhead, spent [555ms] collecting in the last [1.2s]
Muchas gracias por la ayuda