Estoy utilizando el Stack 5.6.6, Estoy tratando de ver un dashboard de 9 visualizaciones en un intervalo temporal que tiene unos 4.000.000 de documentos (aunque no todos afectan a la visualizacion por los filtros que hay.
Cada vez que entro Elasticsearch suelta una gran cantidad de errores en la consola, y tras un rato se muestra el dashboard y se muestra este error
Visualize: rejected execution of org.elasticsearch.transport.TransportService$7@c40692 on EsThreadPoolExecutor[search, queue capacity = 1000, org.elasticsearch.common.util.concurrent.EsThreadPoolExecutor@b8474e[Running, pool size = 13, active
En la consola se muestra
lastShard [true]
org.elasticsearch.transport.RemoteTransportException: [qFb0Q93][172.28.198.235:9300][indices:data/read/search[phase/query]]
Caused by: org.elasticsearch.common.util.concurrent.EsRejectedExecutionException: rejected execution of org.elasticsearch.transport.TransportService$7@14a457c on EsThreadPoolExecutor[search, queue capacity = 1000, org.elasticsearch.common.util.concurrent.EsThreadPoolExecutor@b8474e[Running, pool size = 13, active threads = 12, queued tasks = 1150, completed tasks = 72668]]
Leyendo en los foros he añadido en la última línea de elasticsearch.yml para intentar solucionar el problema thread_pool.bulk.queue_size: 100
Este error quiere decir que en los nodos se están buscando mas de 1000 shards al mismo tiempo. No es relacionado a la cola de bulk (la setting que modificaste), sino que relacionado a la cola de Búsqueda (search). Tambien se puede modificar la cola y hacer restart del nodo, pero esto no es recomendado sino lo que tienes que hacer es entender cuantos shards se están buscando cada vez que se abre el dashboard, y hacer alguna acción para que no se busquen tantos shards al mismo tiempo. No importan la cantidad de indices que buscas, sino los shards por debajo del indice.
No tenemos una documentacion especifica sobre que hacer en el caso. Los numero de shards se ponen de forma estatica cuando el indice es creado. No se puede cambiar una vez que esta creado, pero si puedes cambiar cuantos shards se crearan para el proximo indice creando un index template y seteando el numero de shards primarios.
Apache, Apache Lucene, Apache Hadoop, Hadoop, HDFS and the yellow elephant
logo are trademarks of the
Apache Software Foundation
in the United States and/or other countries.