안녕하세요
Elastic Logstash를 사용하면서 몇가지 문제가 있습니다.
사용환경은 windows10을 사용하고 있으며
elastic 6.2.2와 6.5.0버전을 바꿔가며 테스트하고 있습니다.
먼저 문제가 무엇인지 설명하고 config파일은 아래에 적어두겠습니다.
-
CSV파일 업로드 문제 (6.4.0 이상)
CSV파일 업로드는 6.2.2에서 업로드 하는것은 성공했습니다.
같은 방법으로 상위 버전에 테스트하니 에러가 발생합니다.
몇가지 테스트로 에러는 해소했지만 데이터가 등록되지 않는 문제가 발생합니다. -
Timestamp 문제
CSV파일 내부적으로 기록되어있는 시간기록을 업로드하는데 문제가 있습니다.
ISO8601기준에 맞추면 시간으로 인식하여 업로드 되는것은 확인했습니다.
그 외에 방법으로는 아무리해도 text로 인식합니다.
별달리 command창에서는 언급도 없어서 무엇이 문제인지도 확인할 방법이 없습니다.
Logstash Config파일은 다음과 같습니다.
input{
file{
path => "C:\SimDvcLk\tempLog.csv"
start_position => "beginning"
sincedb_path => "nul"
}
}
filter{
date{
match => ["Time", "EEE MMM dd HH:mm:ss yyyy SS"]
}
#Fri Nov 16 10:10:00 2018 20
csv {
separator => ","
columns => ["Time","ControlMode","ActTemp","SetTemp","Output"]
}
mutate{convert=>["ControlMode","string"]}
mutate{convert=>["ActTemp","float"]}
mutate{convert=>["SetTemp","float"]}
mutate{convert=>["Output","float"]}
}
output {
elasticsearch {
hosts => "http://localhost:9200"
index => "templog"
}
stdout {}
}
CSV파일의 양식은 다음과 같습니다.
Time,ControlMode,ActTemp,SetTemp,Output
Fri Nov 16 10:10:00 2018 20,tuning,30,50,100
Fri Nov 16 10:11:00 2018 20,tuning,31,50,100
확인 부탁드립니다.
감사합니다.