Error en los dashboards

[davidsoler95 (David Soler Balado)]

Hola,

Estoy utilizando el Stack 5.6.6, Estoy tratando de ver un dashboard de 9 visualizaciones en un intervalo temporal que tiene unos 4.000.000 de documentos (aunque no todos afectan a la visualizacion por los filtros que hay.

Cada vez que entro Elasticsearch suelta una gran cantidad de errores en la consola, y tras un rato se muestra el dashboard y se muestra este error

Visualize: rejected execution of org.elasticsearch.transport.TransportService$7@c40692 on EsThreadPoolExecutor[search, queue capacity = 1000, org.elasticsearch.common.util.concurrent.EsThreadPoolExecutor@b8474e[Running, pool size = 13, active

En la consola se muestra

lastShard [true]
org.elasticsearch.transport.RemoteTransportException: [qFb0Q93][172.28.198.235:9300][indices:data/read/search[phase/query]]
Caused by: org.elasticsearch.common.util.concurrent.EsRejectedExecutionException: rejected execution of org.elasticsearch.transport.TransportService$7@14a457c on EsThreadPoolExecutor[search, queue capacity = 1000, org.elasticsearch.common.util.concurrent.EsThreadPoolExecutor@b8474e[Running, pool size = 13, active threads = 12, queued tasks = 1150, completed tasks = 72668]]

Leyendo en los foros he añadido en la última línea de elasticsearch.yml para intentar solucionar el problema
thread_pool.bulk.queue_size: 100

Gracias

[gmoskovicz (Gabriel Moskovicz)]

Hola @davidsoler95,

Este error quiere decir que en los nodos se están buscando mas de 1000 shards al mismo tiempo. No es relacionado a la cola de bulk (la setting que modificaste), sino que relacionado a la cola de Búsqueda (search). Tambien se puede modificar la cola y hacer restart del nodo, pero esto no es recomendado sino lo que tienes que hacer es entender cuantos shards se están buscando cada vez que se abre el dashboard, y hacer alguna acción para que no se busquen tantos shards al mismo tiempo. No importan la cantidad de indices que buscas, sino los shards por debajo del indice.

Saludos!
--Gabriel

[davidsoler95 (David Soler Balado)]

Hola,

¿Me podrías pasar la documentación o algún post donde pueda ver como podemos bajar el número de shards?
Gracias

[gmoskovicz (Gabriel Moskovicz)]

Hola David,

No tenemos una documentacion especifica sobre que hacer en el caso. Los numero de shards se ponen de forma estatica cuando el indice es creado. No se puede cambiar una vez que esta creado, pero si puedes cambiar cuantos shards se crearan para el proximo indice creando un index template y seteando el numero de shards primarios.

Tambien puedes hacer un shrink de un indice viejo si asi lo quieres: https://www.elastic.co/guide/en/elasticsearch/reference/5.2/indices-shrink-index.html. Pero este va a crear otro indice como copia con menos shards y la misma informacion. Es otra opcion.

Saludos!
--Gabriel