# Melange d'indice Logstash (input twitter et rss) - Kibana

**URL:** https://discuss.elastic.co/t/melange-dindice-logstash-input-twitter-et-rss-kibana/292359
**Category:** Discussions en français
**Created:** [December 17, 2021, 8:25pm UTC](https://discuss.elastic.co/t/melange-dindice-logstash-input-twitter-et-rss-kibana/292359 "2021-12-17T20:25:23Z")
**Posts on this page:** 6
**Page:** 1

<div class="post-metadata">

### Author: ![Phildefer](https://avatars.discourse-cdn.com/v4/letter/p/9fc348/32.png) [@Phildefer](https://discuss.elastic.co/u/Phildefer)
#### Post date: [December 17, 2021, 8:25pm UTC](https://discuss.elastic.co/t/melange-dindice-logstash-input-twitter-et-rss-kibana/292359/1 "2021-12-17T20:25:23Z")

</div>

Bonjour, J'ai mis en place deux pipelines logstach via deux fichiers conf. L'un va chercher un flux rss l'autre des tweets. Dans les deux, j'ai une variable de type index différentes pour différencier évidement les données recueillies :

fichier conf 1 (rss)  
input {  
rss {  
url =\> "[https://feeds.xxxxxxx](https://feeds.xxxxxxx/)"  
interval =\> 84600  
}  
}

output {  
stdout { }

Elasticsearch {  
user =\> "elastic"  
password =\> "xxxxx"  
hosts =\> ["192.168.1.100:9200"]  
index =\> "rss"  
}  
}

fichier conf 2 (twitter) :  
input {  
twitter {  
consumer\_key =\> "xxx"  
consumer\_secret =\> "xxxxx"  
oauth\_token =\> "xxxxxx"  
oauth\_token\_secret =\> "xxxxxx"  
keywords =\> ["xxxx", "xxxxx", "xxxx", "xxxx"]  
ignore\_retweets =\> true  
full\_tweet =\> true  
}  
}

filter {  
}

output {  
stdout { }  
Elasticsearch {  
user =\> "elastic"  
password =\> "xxxxx"  
hosts =\> ["192.168.1.100:9200"]  
index =\> "twitter"  
document\_type =\> "tweet"  
}  
}

Le pb lorsque les deux fichiers de conf sont dans le répertoire pipeline, l'indice twitter dans kibana se retrouve avec les éléments de l'indice rss.

Je ne comprends pas trop le souci sachant que testés individuellement tout fonctionne.

Si qqun a une idée.

Merci.

---

<div class="post-metadata">

### Author: ![Phildefer](https://avatars.discourse-cdn.com/v4/letter/p/9fc348/32.png) [@Phildefer](https://discuss.elastic.co/u/Phildefer)
#### Post date: [December 27, 2021, 7:05pm UTC](https://discuss.elastic.co/t/melange-dindice-logstash-input-twitter-et-rss-kibana/292359/2 "2021-12-27T19:05:09Z")

</div>

Personne n'a une petite idée ☹ ? Je bloque, j'ai vérifié le fichier pipeline.yml j'ai l'impression que mes fichiers de conf sont bons mais j'ai tjrs cette "fusion" des index dès que j'ai plus d'un fichier de conf dans pipeline...

---

<div class="post-metadata">

### Author: ![Phildefer](https://avatars.discourse-cdn.com/v4/letter/p/9fc348/32.png) [@Phildefer](https://discuss.elastic.co/u/Phildefer)
#### Post date: [December 28, 2021, 3:28pm UTC](https://discuss.elastic.co/t/melange-dindice-logstash-input-twitter-et-rss-kibana/292359/3 "2021-12-28T15:28:08Z")

</div>

_Je me réponds à moi meme. Le problème venait d'une option très discrète lancée au démarrage du container docker qui empêchait le multipipeline ..._ 🤬

Bon ben en fait non les index se melangent toujours ... Bref si vous avez une idée.

---

<div class="post-metadata">

### Author: ![Phildefer](https://avatars.discourse-cdn.com/v4/letter/p/9fc348/32.png) [@Phildefer](https://discuss.elastic.co/u/Phildefer)
#### Post date: [December 28, 2021, 11:26pm UTC](https://discuss.elastic.co/t/melange-dindice-logstash-input-twitter-et-rss-kibana/292359/4 "2021-12-28T23:26:06Z")

</div>

Je me réponds à moi même à nouveau mais si ça peut aider des débutants comme moi...  
Il faut pour éviter le mélange d'index lors de l'utilisation de plusieurs fichiers conf dans le répertoire pipeline et malgré avoir spécifier dans le fichier pipeline.yml le chemin de ces derniers, ajouter dans les fichiers de conf une condition dans l'output comme ceci :

input {  
rss {  
url =\> "xxxxxxx"  
interval =\> 84600  
type =\> "rss"  
}  
}

output {  
if [type]=="rss" {  
Elasticsearch {  
hosts =\> "192.168.1.100:9200"  
user =\> "elastic"  
password =\> "xxxx"  
index =\> "xxxxx"  
}  
}  
}

Par contre j'ai un autre pb : les documents sont systématiquement dupliqués dans les indexes quels que soient les inputs ... Encore un mystère à résoudre ... Donc en gros quand le site que je suis à 100 feeds rss j'en ai 200 dans ELK même chose pour les tweets

---

<div class="post-metadata">

### Author: ![Phildefer](https://avatars.discourse-cdn.com/v4/letter/p/9fc348/32.png) [@Phildefer](https://discuss.elastic.co/u/Phildefer)
#### Post date: [December 29, 2021, 2:12pm UTC](https://discuss.elastic.co/t/melange-dindice-logstash-input-twitter-et-rss-kibana/292359/5 "2021-12-29T14:12:26Z")

</div>

Pour compléter et toujours dans l'optique de renseigner les débutants comme moi. Le pb venait du fait que j'avais copié les fichiers conf dans le répertoire pipeline dans lequel il y a déjà un fichier de conf par défaut. Dans ce cas, il traite deux fois vos fichiers de conf perso et remplit en double les index. La solution est simple : ne laisser que le fichier par défaut dans le répertoire pipeline et copier les autres dans un répertoire différent et préciser le chemin dans pipeline.yml.

---

<div class="post-metadata">

### Author: ![system](https://us1.discourse-cdn.com/elastic/original/3X/1/a/1ac57faf039f6b580b3f104ef42a2a89e41014de.png) [@system](https://discuss.elastic.co/u/system)
#### Post date: [January 26, 2022, 2:12pm UTC](https://discuss.elastic.co/t/melange-dindice-logstash-input-twitter-et-rss-kibana/292359/6 "2022-01-26T14:12:43Z")

</div>

This topic was automatically closed 28 days after the last reply. New replies are no longer allowed.
