EC2 로그 수집 에이전트가 트래픽 급증 시 로그를 누락합니다

Question

EC2 로그 수집 에이전트가 트래픽 급증 시 로그를 누락합니다

Joon Min 60

EC2 인스턴스에서 로그 수집 에이전트를 사용하고 있는데, 트래픽이 급증하는 시간대에 일부 로그 이벤트가 누락되고 있습니다. 평소에는 정상적으로 동작하지만 로그가 대량으로 생성될 때 에이전트가 모든 이벤트를 처리하지 못하는 것 같습니다. 로그 손실을 방지하기 위해 에이전트의 메모리 제한을 조정하고 디스크 기반 버퍼링 큐를 구성하려고 합니다. 이러한 문제를 해결하기 위해 권장되는 설정이나 에이전트 튜닝 방법이 있을까요?

댓글 0개

답변 1개

답변

Answer 1

안녕하세요 Joon Min

말씀해 주신 증상은 대부분 로그 생성 속도가 에이전트의 처리 속도보다 빨라질 때 발생하며, 이 경우 메모리 버퍼가 가득 차면서 일부 로그가 드롭될 수 있습니다. 우선 에이전트의 메모리 버퍼 크기를 늘리고, 가능하다면 디스크 기반 버퍼링(persistent queue)을 활성화해서 일시적인 트래픽 급증 시 로그를 디스크에 임시 저장하도록 구성하는 것을 권장드립니다. 또한 배치 크기(batch size), 플러시 간격(flush interval), 전송 스레드 수(worker threads) 같은 성능 관련 설정도 함께 조정해 보시는 것이 좋습니다. EC2 인스턴스의 CPU, 메모리, 디스크 I/O 사용량도 확인해 보세요. 리소스가 부족한 경우에는 아무리 버퍼를 늘려도 로그 유실이 발생할 수 있습니다. 추가로 에이전트 로그에서 queue overflow, buffer full, dropped events 관련 메시지가 있는지 확인하면 원인 파악에 큰 도움이 됩니다.

이 답변이 문제 해결에 도움이 되었다면 "Accept Answer"를 눌러 주시면 다른 사용자들에게도 도움이 될 수 있습니다. 감사합니다