sshota
(shota)
July 27, 2020, 6:26am
1
お世話になります。
logstashのFile output pluginにおいて、ファイル出力中のファイルロックの仕様はどのようになっているのでしょうか?
(調べてみたものの、情報を見つけることができませんでした)
具体的にやろうとしていることは、Logstashで出力したファイルをシェルなどで定期的にgzipコマンドで圧縮して後続処理へ渡すようなことを考えております。
この際に、inputが不定期で行われるため、ファイル出力と圧縮処理が競合した場合の動作を懸念しております。
お分かりの方がいらっしゃいましたら、ご教示いただけますと幸いです。
動作環境
Logstash 6.2.3
OS : Ubuntu 16.04.4 LTS
miki
(Miki Matsumoto)
August 19, 2020, 8:23am
2
特にロックはしていないはずです。
そのため、定期的にmvでファイル名を変更してからgzipすれば、問題ないと思います。
sshota
(shota)
August 20, 2020, 12:05am
3
@miki さん
ご回答ありがとうございます。
定期的にmvをすれば、とのことですがlogstashのファイル出力処理とmvのタイミングがバッティングした場合に、出力ファイルが不完全な状態でmvしてしまうことは考えられますか?
miki
(Miki Matsumoto)
August 20, 2020, 1:00am
4
基本的にはatomicな挙動になると思うので、問題ないと思います。
心配なら path => "./output-%{+YYYY-MM-dd}.txt"
のように指定して、ファイルの出力先が日時によって定期的に変わるようにすれば良いと思います。
sshota
(shota)
August 20, 2020, 4:50am
5
@miki さん
atomicな挙動となるのであれば、問題なさそうです。
ご回答ありがとうございした。
system
(system)
Closed
September 17, 2020, 4:50am
6
This topic was automatically closed 28 days after the last reply. New replies are no longer allowed.