반복영역 건너뛰기
주메뉴 바로가기
본문 바로가기
제품/서비스
EMS Solution
Features
클라우드 관리
AI 인공지능
서버관리
데이터베이스 관리
네트워크 관리
트래픽 관리
설비 IoT 관리
무선 AP 관리
교환기 관리
운영자동화
실시간 관리
백업 관리
APM Solution
애플리케이션 관리
URL 관리
ITSM Solution
서비스데스크
IT 서비스 관리
Big Data Solution
SIEM
Dashboard
대시보드
Consulting Service
컨설팅 서비스
고객
레퍼런스
고객FAQ
문의하기
가격
자료실
카탈로그
사용자매뉴얼
회사소개
비전·미션
연혁
2016~현재
2000~2015
인증서·수상
투자정보
재무정보
전자공고
IR자료
새소식
공고
보도자료
오시는 길
채용
피플
컬처
공고
FAQ
블로그
열기
메인 페이지로 이동
블로그
기술이야기
블로그
최신이야기
사람이야기
회사이야기
기술이야기
다양한이야기
카프카를 통한 로그 관리 방법
메모리 누수 위험있는 FinalReference 참조 분석하기
김진광
2023.10.12
페이스북 공유하기
트위터 공유하기
링크드인 공유하기
블로그 공유하기
[행사] 브레인즈컴퍼니 ‘가을문화행사 2023’
Java에서 가장 많이 접하는 문제는 무엇이라 생각하시나요? 바로 리소스 부족 특히 ‘JVM(Java Virtual Machine) 메모리 부족 오류’가 아닐까 생각해요.
메모리 부족 원인에는 우리가 일반적으로 자주 접하는 누수, 긴 생명주기, 다량의 데이터 처리 등 몇 가지 패턴들이 있는데요. 오늘은 좀 일반적이지 않은(?) 유형에 대해 이야기해 볼게요!
Java 객체 참조 시스템은 강력한 참조 외에도 4가지 참조를 구현해요. 바로 성능과 확장성 기타 고려사항에 대한 SoftReference, WeakReference, PhantomReference, FinalReference이죠. 이번 포스팅은
FinalReference를 대표적인 사례
로 다루어 볼게요.
PART1. 분석툴을 활용해 메모리 누수 발생 원인 파악하기
메모리 분석 도구를 통해 힙 덤프(Heap Dump)를 분석할 때, java.lang.ref.Finalizer 객체가 많은 메모리를 점유하는 경우가 있어요. 이 클래스는 FinalReference와 불가분의 관계에요. 나눌 수 없는 관계라는 의미죠.
아래 그림 사례는 힙 메모리(Heap Memory)의 지속적인 증가 후 최대 Heap에 근접 도달 시, 서비스 무응답 현상에 빠지는 분석 사례인데요. 이를 통해 FinalReference 참조가 메모리 누수를 발생시킬 수 있는 조건을 살펴볼게요!
Heap Analyzer 분석툴을 활용하여, 힙 덤프 전체 메모리 요약 현황을 볼게요. java.lang.ref.Finalizer의 점유율이 메모리의 대부분을 점유하고 있죠. 여기서 Finalizer는, 앞에서 언급된 FinalReference를 확장하여 구현한 클래스에요.
JVM은 GC(Garbage Collection) 실행 시 해제 대상 객체(Object)를 수집하기 전, Finalize를 처리해야 해요.
Java Object 클래스에는 아래 그림과 같이 Finalize 메서드(Method)가 존재하는데요. 모든 객체가 Finalize 대상은 아니에요.
JVM은 클래스 로드 시, Finalize 메서드가 재정의(Override)된 객체를 식별해요. 객체 생성 시에는 Finalizer.register() 메서드를 통해, 해당 객체를 참조하는 Finalizer 객체를 생성하죠.
그다음은 Unfinalized 체인(Chain)에 등록해요. 이러한 객체는 GC 발생 시 즉시 Heap에서 수집되진 않아요. Finalizer의 대기 큐(Queue)에 들어가 객체에 재정의된 Finalize 처리를 위해 대기(Pending) 상태에 놓여있죠.
위 그림과 같이 참조 트리(Tree)를 확인해 보면, 많은 Finalizer 객체가 체인처럼 연결되어 있어요. 그럼 Finalizer 객체가 실제 참조하고 있는 객체는 무엇인지 바로 살펴볼까요?
그림에 나온 바와 같이 PostgreSql JDBC Driver의 org.postgresql.jdbc3g.Jdbc3gPreparedStatement인 점을 확인할 수 있어요. 해당 시스템은 PostgreSql DB를 사용하고 있었네요.
이처럼 Finalizer 참조 객체 대부분은 Jdbc3gPreparedStatement 객체임을 알 수 있어요. 여기서 Statement 객체는, DB에 SQL Query를 실행하기 위한 객체에요.
그렇다면, 아직 Finalize 처리되지 않은 Statement 객체가 증가하는 이유는 무엇일까요?
먼저 해당 Statement 객체는 실제로 어디서 참조하는지 살펴볼게요. 해당 객체는 TimerThread가 참조하는 TaskQueue에 들어가 있어요. 해당 Timer는 Postgresql Driver의 CancelTimer이죠.
해당 Timer의 작업 큐를 확인해 보면 PostgreSql Statement 객체와 관련된 Task 객체도 알 수도 있어요.
그럼 org.postgresql.jdbc3g.Jdbc3gPreparedStatement 클래스가 어떻게 동작하는지 자세히 알아볼까요?
org.postgresql.jdbc3g.Jdbc3gPreparedStatement는 org.postgresql.jdbc2.AbstractJdbc2Statement의 상속 클래스이며 finalize() 메서드를 재정의한 클래스에요. Finalize 처리를 위해 객체 생성 시, JVM에 의해 Finalizer 체인으로 등록되죠.
위와 같은 코드로 보아 CancelTimer는, Query 실행 후 일정 시간이 지나면 자동으로 TimeOut 취소 처리를 위한 Timer에요.
정해진 시간 내에 정상적으로 Query가 수행되고 객체를 종료(Close) 시, Timer를 취소하도록 되어 있어요. 이때 취소된 Task는 상태 값만 변경되고, 실제로는 Timer의 큐에서 아직 사라지진 않아요.
Timer에 등록된 작업은, TimerThread에 의해 순차적으로 처리돼요. Task는 TimerThread에서 처리를 해야 비로소 큐에서 제거되거든요.
이때 가져온 Task는 취소 상태가 아니며, 처리 시간에 아직 도달하지 않은 경우 해당 Task의 실행 예정 시간까지 대기해야 돼요.
여기서 문제점이 발생해요.
이 대기 시간이 길어지면 TimerThread의 처리가 지연되기 때문이죠. 이후 대기 Task들은 상태 여부에 상관없이, 큐에 지속적으로 남아있게 돼요.
만약 오랜 시간 동안 처리가 진행되지 않는다면, 여러 번의 Minor GC 발생 후 참조 객체들은 영구 영역(Old Gen)으로 이동될 수 있어요.
영구 영역으로 이동된 객체는, 메모리에 즉시 제거되지 못하고 오랜 기간 남게 되죠. 이는 Old(Full) GC를 발생시켜 시스템 부하를 유발하게 해요. 실제로 시스템에 설정된 TimeOut 값은 3,000초(50분)에요.
Finalizer 참조 객체는 GC 발생 시, 즉시 메모리에서 수집되지 않고 Finalize 처리를 위한 대기 큐에 들어가요. 그다음 FinalizerThread에 의해 Finalize 처리 후 GC 발생 시 비로소 제거되죠. 때문에 리소스의 수집 처리가 지연될 수 있어요.
또한 FinalizerThread 스레드는 우선순위가 낮아요. Finalize 처리 객체가 많은 경우, CPU 리소스가 상대적으로 부족해지면 개체의 Finalize 메서드 실행을 지연하게 만들어요. 처리되지 못한 객체는 누적되게 만들죠.
요약한다면 FinalReference 참조 객체의 잘못된 관리는
1) 객체의 재 참조를 유발 2) 불필요한 객체의 누적을 유발 3) Finalize 처리 지연으로 인한 리소스 누적을 유발
하게 해요.
PART2.
제니우스 APM을 통해 Finalize 객체를 모니터링하는 방법
Zenius APM에서는 JVM 메모리를 모니터링하고 분석하기 위한, 다양한 데이터를 수집하고 있어요. 상단에서 보았던
FinalReference 참조 객체의 현황에 대한 항목도 확인
할 수 있죠.
APM 모니터링을 통해 Finalize 처리에 대한 문제 발생 가능성도
‘사전’
에 확인
할 수 있답니다!
위에 있는 그림은 Finalize 처리 대기(Pending)중인 객체의 개수를 확인 가능한 컴포넌트에요.
이외에도 영역별 메모리 현황 정보와 GC 처리 현황에 대해서도 다양한 정보를 확인 할 수 있어요!
이상으로 Finalize 처리 객체에 의한 리소스 문제 발생 가능성을, 사례를 통해 살펴봤어요. 서비스에 리소스 문제가 발생하고 있다면, 꼭 도움이 되었길 바라요!
------------------------------------------------------------
©참고 자료
◾ uxys, http://www.uxys.com/html/JavaKfjs/20200117/101590.html
◾ Peter Lawrey, 「is memory leak? why java.lang.ref.Finalizer eat so much memory」, stackoverflow, https://stackoverflow.com/questions/8355064/is-memory-leak-why-java-lang-ref-finalizer-eat-so-much-memory
◾ Florian Weimer, 「Performance issues with Java finalizersenyo」, enyo,
https://www.enyo.de/fw/notes/java-gc-finalizers.html
------------------------------------------------------------
#APM
#Finalize
#제니우스
#메모리 누수
#Zenius
#FinalReference
#제니우스 APM
김진광
APM팀(개발3그룹)
개발3그룹 APM팀에서 제품 개발과 기술 지원을 담당하고 있습니다.
필진 글 더보기
목록으로
추천 콘텐츠
이전 슬라이드 보기
서버 모니터링 솔루션의 필수조건과 최신 트렌드
서버 모니터링 솔루션의 필수조건과 최신 트렌드
안정적인 IT 서비스 운영을 위해서 서버 모니터링 솔루션을 도입, 운영하는 경우가 많습니다. 디지털 전환과 클라우드 컴퓨팅의 확산, IoT와 AI 기술의 발전으로 인해서 더욱 다양한 IT 서비스가 운용되고 그를 뒷받침할 서버 시스템의 수도 점증하면서 서버 모니터링 솔루션의 중요성은 더욱 높아질 것으로 예상됩니다. │서버 모니터링 솔루션이 갖춰야 할 필수조건은? 서버 모니터링 솔루션 활용의 가장 큰 목적은 서버의 성능, 안정성을 실시간으로 파악해서 이상 상황이나 장애를 사전에 예방하거나 빠르게 대응하는 것입니다. 그리고 이 목적을 이루기 위해서는 아래와 같은 조건을 반드시 갖추고 있어야 합니다. · 실시간 모니터링 서버의 성능, 가용성, 보안 상태를 실시간으로 모니터링할 수 있는 기능은 서버 모니터링 솔루션의 핵심 요소입니다. 실시간 모니터링을 통해 관리자는 서버의 현재 상태를 즉시 파악하고, 시스템에서 발생하는 문제를 조기에 발견할 수 있습니다. 예를 들어, CPU 사용률이 급격히 증가하거나 네트워크 트래픽이 비정상적으로 많아지는 경우, 실시간 모니터링을 통해 문제를 즉시 감지하고 대응할 수 있습니다. 이를 통해 다운타임을 최소화하고, 서비스를 중단없이 제공할 수 있습니다. · 광범위한 성능 데이터 수집 서버 모니터링 솔루션은 다양한 성능 지표를 수집할 수 있어야 합니다. 여기에는 CPU 사용률, 메모리 사용량, 디스크 I/O, 네트워크 트래픽 등의 하드웨어관련 데이터뿐만 아니라 애플리케이션과 관련한 데이터도 포함됩니다. 예를 들어, 데이터베이스 쿼리 응답 시간, 웹 서버의 요청 처리 시간 등 애플리케이션의 성능을 상세히 분석할 수 있는 데이터가 여기에 포함됩니다. 이러한 데이터를 통해 시스템의 전반적인 상태를 정확히 파악하고, 서버의 병목 현상을 식별하며 성능을 최적화할 수 있습니다. · 경고 및 알림 기능 서버 모니터링 솔루션은 설정된 임계 값을 초과하거나 이상 징후가 발견되었을 때 즉시 관리자에게 알림을 보내는 기능을 갖춰야 합니다. 이메일, SMS, 푸시 알림 등 다양한 경고 수단을 지원하여, 문제가 발생했을 때 신속하게 대응할 수 있도록 해야 합니다. 예를 들어, 서버의 디스크 사용량이 90%를 초과하거나 네트워크 지연 시간이 급격히 증가할 때, 서버 모니터링 시스템의 경고 알림을 통해 관리자는 즉시 문제를 인지하고 조치를 취할 수 있습니다. 이를 통해 심각한 장애로 발전하기 전에 문제를 해결할 수 있습니다. · 확장성과 유연성 기업의 성장에 따라 추가되는 서버와 애플리케이션을 신속히 모니터링할 수 있도록 확장성이 있어야 합니다. 이는 특히 클라우드 환경에서 중요합니다. 클라우드 인프라를 사용 중인 기업이 수시로 서버를 추가하거나 제거하는 상황이 빈번하게 발생하기 때문입니다. 또한, 대규모 환경에서도 안정적으로 작동하며, 여러 데이터 센터와 클라우드 리전에서 발생하는 데이터도 효율적으로 처리할 수 있어야 합니다. · 대시보드 및 시각화 도구 서버의 상태를 직관적으로 이해할 수 있도록 다양한 대시보드와 시각화 도구를 제공해야 합니다. 이는 관리자가 시스템 상태를 한눈에 파악하고, 문제의 원인과 영향을 빠르게 분석할 수 있게 합니다. 예를 들어, 실시간 대시보드를 통해 서버의 현재 상태를 모니터링하고, 트렌드 분석을 통해 장기적인 성능 변화를 파악할 수 있습니다. 세부적이고 다양한 차트와 그래프는 데이터를 시각적으로 표현하여, 복잡한 데이터를 쉽게 이해하고 분석할 수 있도록 도와줍니다. 대시보드 및 시각화도구 예시(Zenius SMS) · 로그 관리 및 분석 서버와 애플리케이션 로그를 수집하고 분석할 수 있는 기능은 문제의 근본 원인을 파악하고 보안 위협을 탐지하는 데 필수적입니다. 로그 데이터는 실시간 모니터링과 보완되어, 시스템 이벤트의 연속성과 이슈 발생의 맥락을 이해하는 데 도움을 줍니다. 예를 들어, 서버의 로그를 통해 특정 시간에 발생한 오류를 분석하고, 이를 통해 시스템의 취약점을 식별하고 개선할 수 있습니다. 또한, 로그 데이터를 기반으로 보안 위협을 탐지하고 대응할 수 있습니다. · 자동화된 대응 서버 모니터링 솔루션은 문제가 발생했을 때 자동으로 대응하는 기능을 제공해야 합니다. 예를 들어, 서버 재부팅, 서비스 재시작, 자원 확장 등의 자동화된 조치를 지원하여, 인적 오류를 줄이고 문제 해결 시간을 단축할 수 있습니다. 이러한 자동화된 대응은 설정된 조건에 따라 다양한 조치를 자동으로 수행하여, 관리자의 개입 없이도 문제를 해결할 수 있도록 합니다. 이는 시스템의 안정성과 신뢰성을 높이는 데 기여합니다. · 유연한 통합 서버 모니터링 솔루션은 다른 IT 관리 도구와 쉽게 통합할 수 있어야 합니다. 예를 들어, CI(지속적 통합)/CD(지속적 배포) 프로세스, ITSM(Information Technology Service Management), 클라우드나 마이크로 서비스 아키텍처 관리 솔루션 등과의 연동이 필요합니다. 이는 모니터링 데이터의 활용 범위를 넓히고, 전체 IT 환경의 효율성을 높이는 데 도움을 줍니다. 또한 서버 뿐 아니라 네트워크, DB, 애플리케이션 모니터링 툴과의 통합도 가능해야 합니다. · 보안 서버 모니터링 솔루션을 통해 비정상적인 활동을 실시간으로 감지하여 보안위협을 예방할 수 있어야 합니다. 이와 동시에 서버 모니터링 솔루션 자체의 보안도 중요합니다. 데이터 암호화, 접근 제어, 감사 로그 등의 보안 기능을 갖추고 있어야 합니다. 이를 통해 모니터링 시스템이 외부 위협으로 부터 안전하게 운영될 수 있습니다. 이와 더불어 각 사용자의 필요에 맞추어 세부적인 기능을 조정할 수 있는 기능과 지속적인 원활한 업그레이드와 기술 지원도 서버 모니터링 솔루션이 갖춰야할 중요한 조건입니다. │서버 모니터링 솔루션의 최신 트렌드는? 서버 모니터링 솔루션은 기술의 발전과 변화하는 비즈니스 요구에 발맞추어 빠르게 진화하고 있습니다. 대표적인 최근의 변화와 트렌드를 알아보겠습니다. · 클라우드 네이티브 기반 모니터링 클라우드 네이티브 기반의 서버 모니터링 솔루션은 클라우드 인프라의 복잡성과 변화하는 특성을 효과적으로 관리할 수 있습니다. 클라우드 서비스 제공업체의 API와 통합되어 인프라 상태를 실시간으로 파악하고 자동으로 조정할 수 있어, 서비스 중단을 최소화하고 사용자 경험을 높여주기 때문에, 많은 기업이 클라우드 네이티브 기반의 서버 모니터링 솔루션을 채택하고 있습니다. · 인공지능 및 머신러닝 기반 모니터링 인공지능과 머신러닝 기술이 서버 모니터링 솔루션에 적용되고 있습니다. 이를 통해 대용량 로그 데이터를 빠르게 분석하여 문제의 근본 원인을 빠르게 파악하고 자동으로 대응할 수 있습니다. 서버 모니터링 솔루션은 AI와 ML을 기반으로 정확하고 자동화된 예측과 분석, 대응이 가능한 효과적이고 신뢰도 높은 IT 인프라 관리 솔루션으로 발전하고 있습니다. · 마이크로서비스 아키텍처(MSA) 환경 모니터링 MSA 환경에서의 서버 모니터링 솔루션은 분산 시스템 내 각 마이크로서비스를 개별적으로 모니터링하고, 실시간 데이터 수집 및 분석을 통해 문제를 즉시 발견 및 대응하며, 자동화된 경고 시스템으로 빠른 문제 해결을 지원하고 있습니다. 또한 Docker와 Kubernetes 같은 컨테이너 및 오케스트레이션 도구와의 통합도 중요한 트렌드로 자리잡고 있습니다. · 자동화된 대응 및 자가 치유 문제가 발생했을 때 자동으로 대응하는 시스템이 도입되고 있습니다. 예를 들어, 서버가 과부하 상태일 때 자동으로 서버를 확장하거나, 특정 오류가 발생했을 때 자동으로 재부팅하는 등의 기능이 포함됩니다. 이러한 자동화된 대응은 시스템의 가용성과 안정성을 높이는 데 기여합니다. 또한 자가 치유 기능은 시스템이 자동으로 문제를 감지하고 수정하는 능력을 갖추게 하여, 관리자의 개입 없이도 안정적인 운영을 가능하게 합니다. · 통합 모니터링 다양한 모니터링 툴과 시스템을 통합하여 중앙 집중형 대시보드에서 모든 인프라와 애플리케이션을 모니터링하는 것이 중요해지고 있습니다. 따라서 통합된 뷰를 통한 모니터링의 효율성이 높아지고 있습니다. 예를 들어 관리자는 다양한 모니터링 솔루션에서 수집된 데이터를 통합된 대시보드에서 한눈에 확인할 수 있습니다. 이러한 대시보드는 문제 발생 시 원인을 신속히 파악하고, 적합한 조치를 취할 수 있도록 도와줍니다. · 비용 및 자원 최적화 비용 및 자원 최적화는 지속해서 서버 모니터링 솔루션의 핵심 요소로 꼽히고 있습니다. 따라서 서버 모니터링 솔루션은 서버 자원의 사용 패턴을 분석하고, 불필요한 자원 낭비를 줄이며, 자원을 효율적으로 배분할 수 있는 기능에 중점을 맞춰서 발전하고 있습니다. · 보안 중심 모니터링 보안 위협이 증가함에 따라 보안 중심의 모니터링이 중요해지고 있습니다. 따라서 서버 모니터링 솔루션 자체의 기능을 강화하거나, SIEM(Security Information and Event Management)과 같은 보안전문 솔루션과의 연동을 통해 보안 로그와 이벤트 데이터를 분석하여 잠재적인 보안 위협에 빠르게 대처하는 사례가 늘고 있습니다. 이와 같이 서버 모니터링 솔루션은 클라우드나 마이크로 시스템 아키텍처와 같은 시스템의 환경의 변화에 따라, 인공지능과 같은 기술적 진화에 따라, 또한 보안이나 비용절감과 같은 사용자들의 니즈의 변화에 따라 다양한 방향으로 진화, 발전하고 있습니다. 고객 서버 시스템 환경이나 서비스의 특성이나 고객의 특정 니즈에 따라 최신 트랜드를 잘 반영한 솔루션을 선택하여 서버 시스템의 운용 효율과, IT 서비스의 안정성을 제고하는 것이 IT 운용 부서의 주요 과제 중의 하나가 되고 있습니다.
2024.08.05
다음 슬라이드 보기