반복영역 건너뛰기
주메뉴 바로가기
본문 바로가기
제품/서비스
EMS Solution
Features
클라우드 관리
서버관리
데이터베이스 관리
네트워크 관리
트래픽 관리
설비 IoT 관리
무선 AP 관리
교환기 관리
운영자동화
실시간 관리
백업 관리
스토리지 관리
예방 점검
APM Solution
애플리케이션 관리
URL 관리
브라우저 관리
ITSM Solution
서비스데스크
IT 서비스 관리
Big Data Solution
SIEM
AI 인공지능
Dashboard
대시보드
Consulting Service
컨설팅 서비스
고객
레퍼런스
고객FAQ
문의하기
가격
자료실
카탈로그
사용자매뉴얼
회사소개
비전·미션
연혁
2016~현재
2000~2015
인증서·수상
투자정보
재무정보
전자공고
IR자료
새소식
공고
보도자료
오시는 길
채용
피플
컬처
공고
FAQ
블로그
열기
메인 페이지로 이동
블로그
기술이야기
블로그
최신이야기
사람이야기
회사이야기
기술이야기
다양한이야기
카프카를 통한 로그 관리 방법
메모리 누수 위험있는 FinalReference 참조 분석하기
김진광
2023.10.12
페이스북 공유하기
트위터 공유하기
링크드인 공유하기
블로그 공유하기
[행사] 브레인즈컴퍼니 ‘가을문화행사 2023’
Java에서 가장 많이 접하는 문제는 무엇이라 생각하시나요? 바로 리소스 부족 특히 ‘JVM(Java Virtual Machine) 메모리 부족 오류’가 아닐까 생각해요.
메모리 부족 원인에는 우리가 일반적으로 자주 접하는 누수, 긴 생명주기, 다량의 데이터 처리 등 몇 가지 패턴들이 있는데요. 오늘은 좀 일반적이지 않은(?) 유형에 대해 이야기해 볼게요!
Java 객체 참조 시스템은 강력한 참조 외에도 4가지 참조를 구현해요. 바로 성능과 확장성 기타 고려사항에 대한 SoftReference, WeakReference, PhantomReference, FinalReference이죠. 이번 포스팅은
FinalReference를 대표적인 사례
로 다루어 볼게요.
PART1. 분석툴을 활용해 메모리 누수 발생 원인 파악하기
메모리 분석 도구를 통해 힙 덤프(Heap Dump)를 분석할 때, java.lang.ref.Finalizer 객체가 많은 메모리를 점유하는 경우가 있어요. 이 클래스는 FinalReference와 불가분의 관계에요. 나눌 수 없는 관계라는 의미죠.
아래 그림 사례는 힙 메모리(Heap Memory)의 지속적인 증가 후 최대 Heap에 근접 도달 시, 서비스 무응답 현상에 빠지는 분석 사례인데요. 이를 통해 FinalReference 참조가 메모리 누수를 발생시킬 수 있는 조건을 살펴볼게요!
Heap Analyzer 분석툴을 활용하여, 힙 덤프 전체 메모리 요약 현황을 볼게요. java.lang.ref.Finalizer의 점유율이 메모리의 대부분을 점유하고 있죠. 여기서 Finalizer는, 앞에서 언급된 FinalReference를 확장하여 구현한 클래스에요.
JVM은 GC(Garbage Collection) 실행 시 해제 대상 객체(Object)를 수집하기 전, Finalize를 처리해야 해요.
Java Object 클래스에는 아래 그림과 같이 Finalize 메서드(Method)가 존재하는데요. 모든 객체가 Finalize 대상은 아니에요.
JVM은 클래스 로드 시, Finalize 메서드가 재정의(Override)된 객체를 식별해요. 객체 생성 시에는 Finalizer.register() 메서드를 통해, 해당 객체를 참조하는 Finalizer 객체를 생성하죠.
그다음은 Unfinalized 체인(Chain)에 등록해요. 이러한 객체는 GC 발생 시 즉시 Heap에서 수집되진 않아요. Finalizer의 대기 큐(Queue)에 들어가 객체에 재정의된 Finalize 처리를 위해 대기(Pending) 상태에 놓여있죠.
위 그림과 같이 참조 트리(Tree)를 확인해 보면, 많은 Finalizer 객체가 체인처럼 연결되어 있어요. 그럼 Finalizer 객체가 실제 참조하고 있는 객체는 무엇인지 바로 살펴볼까요?
그림에 나온 바와 같이 PostgreSql JDBC Driver의 org.postgresql.jdbc3g.Jdbc3gPreparedStatement인 점을 확인할 수 있어요. 해당 시스템은 PostgreSql DB를 사용하고 있었네요.
이처럼 Finalizer 참조 객체 대부분은 Jdbc3gPreparedStatement 객체임을 알 수 있어요. 여기서 Statement 객체는, DB에 SQL Query를 실행하기 위한 객체에요.
그렇다면, 아직 Finalize 처리되지 않은 Statement 객체가 증가하는 이유는 무엇일까요?
먼저 해당 Statement 객체는 실제로 어디서 참조하는지 살펴볼게요. 해당 객체는 TimerThread가 참조하는 TaskQueue에 들어가 있어요. 해당 Timer는 Postgresql Driver의 CancelTimer이죠.
해당 Timer의 작업 큐를 확인해 보면 PostgreSql Statement 객체와 관련된 Task 객체도 알 수도 있어요.
그럼 org.postgresql.jdbc3g.Jdbc3gPreparedStatement 클래스가 어떻게 동작하는지 자세히 알아볼까요?
org.postgresql.jdbc3g.Jdbc3gPreparedStatement는 org.postgresql.jdbc2.AbstractJdbc2Statement의 상속 클래스이며 finalize() 메서드를 재정의한 클래스에요. Finalize 처리를 위해 객체 생성 시, JVM에 의해 Finalizer 체인으로 등록되죠.
위와 같은 코드로 보아 CancelTimer는, Query 실행 후 일정 시간이 지나면 자동으로 TimeOut 취소 처리를 위한 Timer에요.
정해진 시간 내에 정상적으로 Query가 수행되고 객체를 종료(Close) 시, Timer를 취소하도록 되어 있어요. 이때 취소된 Task는 상태 값만 변경되고, 실제로는 Timer의 큐에서 아직 사라지진 않아요.
Timer에 등록된 작업은, TimerThread에 의해 순차적으로 처리돼요. Task는 TimerThread에서 처리를 해야 비로소 큐에서 제거되거든요.
이때 가져온 Task는 취소 상태가 아니며, 처리 시간에 아직 도달하지 않은 경우 해당 Task의 실행 예정 시간까지 대기해야 돼요.
여기서 문제점이 발생해요.
이 대기 시간이 길어지면 TimerThread의 처리가 지연되기 때문이죠. 이후 대기 Task들은 상태 여부에 상관없이, 큐에 지속적으로 남아있게 돼요.
만약 오랜 시간 동안 처리가 진행되지 않는다면, 여러 번의 Minor GC 발생 후 참조 객체들은 영구 영역(Old Gen)으로 이동될 수 있어요.
영구 영역으로 이동된 객체는, 메모리에 즉시 제거되지 못하고 오랜 기간 남게 되죠. 이는 Old(Full) GC를 발생시켜 시스템 부하를 유발하게 해요. 실제로 시스템에 설정된 TimeOut 값은 3,000초(50분)에요.
Finalizer 참조 객체는 GC 발생 시, 즉시 메모리에서 수집되지 않고 Finalize 처리를 위한 대기 큐에 들어가요. 그다음 FinalizerThread에 의해 Finalize 처리 후 GC 발생 시 비로소 제거되죠. 때문에 리소스의 수집 처리가 지연될 수 있어요.
또한 FinalizerThread 스레드는 우선순위가 낮아요. Finalize 처리 객체가 많은 경우, CPU 리소스가 상대적으로 부족해지면 개체의 Finalize 메서드 실행을 지연하게 만들어요. 처리되지 못한 객체는 누적되게 만들죠.
요약한다면 FinalReference 참조 객체의 잘못된 관리는
1) 객체의 재 참조를 유발 2) 불필요한 객체의 누적을 유발 3) Finalize 처리 지연으로 인한 리소스 누적을 유발
하게 해요.
PART2.
제니우스 APM을 통해 Finalize 객체를 모니터링하는 방법
Zenius APM에서는 JVM 메모리를 모니터링하고 분석하기 위한, 다양한 데이터를 수집하고 있어요. 상단에서 보았던
FinalReference 참조 객체의 현황에 대한 항목도 확인
할 수 있죠.
APM 모니터링을 통해 Finalize 처리에 대한 문제 발생 가능성도
‘사전’
에 확인
할 수 있답니다!
위에 있는 그림은 Finalize 처리 대기(Pending)중인 객체의 개수를 확인 가능한 컴포넌트에요.
이외에도 영역별 메모리 현황 정보와 GC 처리 현황에 대해서도 다양한 정보를 확인 할 수 있어요!
이상으로 Finalize 처리 객체에 의한 리소스 문제 발생 가능성을, 사례를 통해 살펴봤어요. 서비스에 리소스 문제가 발생하고 있다면, 꼭 도움이 되었길 바라요!
------------------------------------------------------------
©참고 자료
◾ uxys, http://www.uxys.com/html/JavaKfjs/20200117/101590.html
◾ Peter Lawrey, 「is memory leak? why java.lang.ref.Finalizer eat so much memory」, stackoverflow, https://stackoverflow.com/questions/8355064/is-memory-leak-why-java-lang-ref-finalizer-eat-so-much-memory
◾ Florian Weimer, 「Performance issues with Java finalizersenyo」, enyo,
https://www.enyo.de/fw/notes/java-gc-finalizers.html
------------------------------------------------------------
#APM
#Finalize
#제니우스
#메모리 누수
#Zenius
#FinalReference
#제니우스 APM
김진광
APM팀(개발3그룹)
개발3그룹 APM팀에서 제품 개발과 기술 지원을 담당하고 있습니다.
필진 글 더보기
목록으로
추천 콘텐츠
이전 슬라이드 보기
이상 징후 탐지 솔루션, Zenius AI의 주요기능과 특장점
이상 징후 탐지 솔루션, Zenius AI의 주요기능과 특장점
IT 인프라의 복잡성과 운영 환경이 점점 더 고도화됨에 따라, 시스템 장애를 사전에 탐지하고 선제적으로 대응하는 기술의 중요성이 크게 부각되고 있습니다. 기존의 장애 관리 방식은 주로 장애 발생 이후에 원인을 분석하고 복구 조치를 취하는 사후 대응(Post-Mortem Response) 중심이었습니다. 그러나 이러한 접근 방식은 서비스 다운타임 증가, 운영 비용 상승, 장애의 반복 발생과 같은 문제를 야기하며, 기업의 디지털 운영 안정성을 위협합니다. Zenius AI는 이러한 한계를 극복하기 위해 머신러닝 기반의 이상징후 탐지 및 장애 예측 기능을 제공하는 이상 징후 탐지 솔루션입니다. 대규모 IT 인프라 환경에서 수집되는 로그, 메트릭, 이벤트 데이터를 실시간으로 분석하여 정상 패턴에서 벗어나는 이상 징후를 조기에 감지하고, 잠재적인 장애를 사전에 예측할 수 있도록 지원하는 Zenius AI의 주요기능과 특장점을 자세히 알아보겠습니다. 이상 징후 탐지 솔루션, Zenius AI의 주요 기능 Zenius AI는 IT 운영 환경에서 이상징후를 실시간으로 감지하고 대응할 수 있도록 설계된 AI 기반의 모니터링 솔루션입니다. 이 솔루션은 데이터 수집 및 관리, AI 모델 학습 및 예측, 이상징후 감지 및 대응, 대시보드 시각화 및 운영관리의 네 가지 핵심 기능을 제공합니다. 1) 데이터 수집 및 관리 Zenius AI는 Kafka 기반의 고성능 메시징 시스템과 OpenSearch 기반의 스토리지 및 검색 엔진을 통해, 대규모 로그 및 메트릭 데이터를 실시간으로 안정적이고 유실 없이 수집할 수 있도록 설계되었습니다. 이를 통해 시스템 전반에서 발생하는 다양한 이벤트 및 상태 정보를 정밀하게 추적하고, 이상징후 탐지에 최적화된 정제된 학습용 데이터셋을 구축할 수 있습니다. 특히 Zenius EMS(Enterprise Monitoring System)와의 직접적인 연동 기능을 제공함으로써, 서버, 네트워크, 애플리케이션 등 다양한 IT 인프라에서 생성되는 실시간 성능 데이터를 효과적으로 수집할 수 있습니다. 이를 통해 기존 IT 운영 환경과 유기적으로 연결된 데이터 수집·분석 체계를 구현할 수 있으며, 수집된 데이터를 기반으로 한 AI 기반 이상징후 탐지 및 선제적 대응 체계 구축이 가능해집니다. 또한, 데이터 수집 단계에서부터 AI 학습 및 예측 모델 구축에 이르기까지 전체 파이프라인이 긴밀하게 통합되어 있어, 운영 효율성과 데이터 신뢰성을 동시에 확보할 수 있는 것이 Zenius AI의 큰 강점입니다. 2) AI 모델 학습 및 예측 Zenius AI는 시계열 데이터 기반의 정밀한 이상징후 탐지를 위해 Amazon Web Services(AWS)에서 제공하는 DeepAR 시계열 예측 모델을 활용합니다. DeepAR은 다수의 시계열 데이터를 동시에 처리하고, 시간 축을 따라 변화하는 패턴을 학습하여 정상 범위를 벗어나는 이상 징후를 사전에 감지할 수 있도록 지원합니다. 이를 통해 단순 임계값 기반 감지를 넘어선 지능형 예측 분석이 가능해집니다. 또한, Zenius AI는 AutoGluon 기반의 AutoML 기능을 통합하여 모델 개발 전반을 자동화합니다. 하이퍼파라미터 최적화, 특성 선택, 다양한 알고리즘 기반 학습 등을 자동으로 수행하고, 정확도 기준에 따라 최적의 모델을 자동으로 선택함으로써 분석 정확도와 효율성을 동시에 향상시킵니다. 데이터의 특성과 계절성이 반영된 학습 모델은, 각 서비스에 맞는 맞춤형 예측 알고리즘으로 적용되며, 모델 자동 배포, 버전 관리, 스케줄 기반 재학습 기능을 통해 지속적으로 개선되고 고도화됩니다. 3) 이상 징후 감지 및 대응 Zenius AI는 머신러닝 기반의 시계열 예측 모델을 활용하여, 시간에 따라 변화하는 메트릭 데이터의 정상적인 흐름을 학습하고, 예측값과 실제 관측값 간의 오차를 분석함으로써 예상 범위를 벗어나는 이상징후를 조기에 감지합니다. 이 방식은 단순한 임계치 설정을 넘어서, 모델이 정상 상태를 스스로 학습하고 예외 상황을 자동으로 판별함으로써, 더 높은 민감도와 신뢰성을 갖춘 예측 기반 감지 체계를 구현합니다. 또한, 감지된 이상징후에 대해 이벤트의 심각도를 자동 분류하고, 사전에 정의된 조건에 따라 이메일, 문자, 사운드 등 다양한 채널을 통한 실시간 알림을 제공함으로써, 운영자가 신속하게 대응할 수 있도록 지원합니다. 뿐만 아니라, Zenius AI는 메트릭 기반 탐지 외에도 로그 기반 이상징후 감지 기능을 제공합니다. 특히, 로그가 정상적으로 수집되지 않거나 누락될 경우를 실시간으로 탐지하는 로그 미수집 감지 기능을 통해, 분석에 필요한 데이터의 공백을 사전에 차단하고 이상 탐지 누락을 방지할 수 있습니다. 이 기능은 장애의 근본 원인을 조기에 식별하는 데 중요한 역할을 하며, 호스트 단위의 로그 수집 현황을 시각화하여 운영자가 이상 상황을 한눈에 파악하고 조치할 수 있도록 지원합니다. 4) 대시보드 및 시각화 기능 Zenius AI는 실시간 이상징후 감지 결과를 직관적으로 파악할 수 있도록, 고도화된 대시보드 및 시각화 기능을 제공합니다. 서비스 그룹, 호스트, 모델별로 논리적으로 구성된 시각화 컴포넌트를 통해, 운영자는 전체 IT 인프라의 상태와 이상징후 발생 현황을 한눈에 파악할 수 있으며, 각종 지표에 대한 심층 분석도 즉각적으로 수행할 수 있습니다. 또한, WYSIWYG(What You See Is What You Get) 기반의 시각 보고서 생성 기능을 통해, 이상징후 탐지 결과와 예측 데이터를 시각적으로 정리하고, 이를 분기별 보고서, 사용자 정의 통계 리포트 등 다양한 형식으로 출력할 수 있어 IT 운영팀 및 경영진과의 효율적인 커뮤니케이션과 의사결정을 지원합니다. 운영관리 측면에서는 사용자 권한 및 알림 통보 설정 기능이 포함되어 있어, 역할 기반 접근 제어(RBAC)를 통해 사용자별 접근 권한을 세밀하게 관리할 수 있습니다. 장애 또는 이상 이벤트 발생 시에는 이메일, 문자, 사운드 알람 등 다양한 매체를 통해 실시간 경보를 전송하고, 알림의 심각도, 전송 시간대, 수신자 그룹 등을 세분화하여 설정할 수 있어 운영의 유연성과 대응 속도를 크게 향상시킵니다. 이상 징후 탐지 솔루션, Zenius AI의 특장점 Zenius AI는 실시간 데이터 분석 역량과 AI 기반 모델 최적화 기능을 결합한 차세대 이상징후 탐지 솔루션으로, 기존 시스템 대비 한층 정교하고 신속한 대응 체계를 제공합니다. 이를 통해 IT 운영 환경에서 보다 신뢰도 높은 장애 예측과 효율적인 운영 관리가 가능해집니다. 첫째, Zenius AI는 초고속 인덱싱 및 검색 성능을 통해 대규모 로그 데이터를 실시간으로 분석할 수 있습니다. 최대 162만 EPS(Events Per Second)의 로그 인덱싱 처리 속도를 제공하며, 1TB 규모의 로그도 단 0.02초 내에 검색할 수 있어, 장애 발생 시 즉각적인 원인 진단과 대응이 가능합니다. 또한, 대용량 환경에서도 로그 유실 없이 안정적인 저장 및 분석이 가능하여, 운영 신뢰성과 가용성을 크게 향상시킵니다. 둘째, Zenius AI는 AI 기반의 자동화된 모델 관리 기능을 갖추고 있어, 모델의 학습, 최적화, 배포를 전 과정 자동화할 수 있습니다. 수작업 없이도 성능을 지속적으로 개선할 수 있으며, 스케줄 기반 학습 관리를 통해 최신 데이터를 반영한 정기적 모델 업데이트가 가능합니다. 또한, Zenius EMS(Enterprise Monitoring System) 및 다양한 3rd Party 시스템과의 연동 기능을 통해 기존 IT 인프라와 유기적으로 통합된 분석 환경을 구현할 수 있습니다. 셋째, 머신러닝 기반의 이상징후 조기 탐지 및 대응 체계를 통해 서비스 장애를 사전에 감지하고 신속하게 대응할 수 있습니다. 예측값과 실제값의 오차 기반 분석을 통해 정밀한 이상징후를 탐지하며, 장애 패턴 분석 기능을 통해 유사 장애의 반복 가능성을 최소화합니다. 이를 통해 운영자는 보다 체계적이고 선제적인 장애 대응이 가능하며, 전체 IT 서비스의 안정성과 연속성을 효과적으로 유지할 수 있습니다. Zenius AI는 AI 기반의 이상징후 탐지를 통해 IT 운영의 효율성을 높이고, 장애를 사전에 방지할 수 있도록 지원합니다. 머신러닝 기반의 학습과 장애 패턴 분석을 통해 장애 재발 가능성을 최소화하고, 선제적인 예방 및 대응 체계를 구축함으로써 장애 원인을 조기에 차단할 수 있습니다. 이를 통해 서비스 다운타임을 최소화하고, 안정적인 운영 환경을 유지하여 서비스품질과 신뢰도를 향상시킵니다. 또한, Zenius AI는 운영 비용 절감과 IT 생산성 향상에도 기여합니다. 장애 처리에 소요되는 인력과 시간을 절감해 운영팀이 핵심 업무에 집중할 수 있도록 돕고, 자동화된 감지 및 대응 시스템을 통해 전반적인 운영 부담을 효과적으로 완화합니다. 이상 징후 탐지 솔루션 Zenius AI도입을 통해 IT 운영의 안정성과 효율성을 강화하고, 보다 신뢰도 높은 서비스 환경을 구축하시기 바랍니다.
2025.04.03
다음 슬라이드 보기