반복영역 건너뛰기
주메뉴 바로가기
본문 바로가기
제품/서비스
EMS Solution
Features
클라우드 관리
AI 인공지능
서버관리
데이터베이스 관리
네트워크 관리
트래픽 관리
설비 IoT 관리
무선 AP 관리
교환기 관리
운영자동화
실시간 관리
백업 관리
APM Solution
애플리케이션 관리
URL 관리
ITSM Solution
서비스데스크
IT 서비스 관리
Big Data Solution
SIEM
Dashboard
대시보드
Consulting Service
컨설팅 서비스
고객
레퍼런스
고객FAQ
문의하기
가격
자료실
카탈로그
사용자매뉴얼
회사소개
비전·미션
연혁
2016~현재
2000~2015
인증서·수상
투자정보
재무정보
전자공고
IR자료
새소식
공고
보도자료
오시는 길
채용
피플
컬처
공고
FAQ
블로그
열기
메인 페이지로 이동
블로그
기술이야기
블로그
최신이야기
사람이야기
회사이야기
기술이야기
다양한이야기
카프카를 통한 로그 관리 방법
메모리 누수 위험있는 FinalReference 참조 분석하기
김진광
2023.10.12
페이스북 공유하기
트위터 공유하기
링크드인 공유하기
블로그 공유하기
[행사] 브레인즈컴퍼니 ‘가을문화행사 2023’
Java에서 가장 많이 접하는 문제는 무엇이라 생각하시나요? 바로 리소스 부족 특히 ‘JVM(Java Virtual Machine) 메모리 부족 오류’가 아닐까 생각해요.
메모리 부족 원인에는 우리가 일반적으로 자주 접하는 누수, 긴 생명주기, 다량의 데이터 처리 등 몇 가지 패턴들이 있는데요. 오늘은 좀 일반적이지 않은(?) 유형에 대해 이야기해 볼게요!
Java 객체 참조 시스템은 강력한 참조 외에도 4가지 참조를 구현해요. 바로 성능과 확장성 기타 고려사항에 대한 SoftReference, WeakReference, PhantomReference, FinalReference이죠. 이번 포스팅은
FinalReference를 대표적인 사례
로 다루어 볼게요.
PART1. 분석툴을 활용해 메모리 누수 발생 원인 파악하기
메모리 분석 도구를 통해 힙 덤프(Heap Dump)를 분석할 때, java.lang.ref.Finalizer 객체가 많은 메모리를 점유하는 경우가 있어요. 이 클래스는 FinalReference와 불가분의 관계에요. 나눌 수 없는 관계라는 의미죠.
아래 그림 사례는 힙 메모리(Heap Memory)의 지속적인 증가 후 최대 Heap에 근접 도달 시, 서비스 무응답 현상에 빠지는 분석 사례인데요. 이를 통해 FinalReference 참조가 메모리 누수를 발생시킬 수 있는 조건을 살펴볼게요!
Heap Analyzer 분석툴을 활용하여, 힙 덤프 전체 메모리 요약 현황을 볼게요. java.lang.ref.Finalizer의 점유율이 메모리의 대부분을 점유하고 있죠. 여기서 Finalizer는, 앞에서 언급된 FinalReference를 확장하여 구현한 클래스에요.
JVM은 GC(Garbage Collection) 실행 시 해제 대상 객체(Object)를 수집하기 전, Finalize를 처리해야 해요.
Java Object 클래스에는 아래 그림과 같이 Finalize 메서드(Method)가 존재하는데요. 모든 객체가 Finalize 대상은 아니에요.
JVM은 클래스 로드 시, Finalize 메서드가 재정의(Override)된 객체를 식별해요. 객체 생성 시에는 Finalizer.register() 메서드를 통해, 해당 객체를 참조하는 Finalizer 객체를 생성하죠.
그다음은 Unfinalized 체인(Chain)에 등록해요. 이러한 객체는 GC 발생 시 즉시 Heap에서 수집되진 않아요. Finalizer의 대기 큐(Queue)에 들어가 객체에 재정의된 Finalize 처리를 위해 대기(Pending) 상태에 놓여있죠.
위 그림과 같이 참조 트리(Tree)를 확인해 보면, 많은 Finalizer 객체가 체인처럼 연결되어 있어요. 그럼 Finalizer 객체가 실제 참조하고 있는 객체는 무엇인지 바로 살펴볼까요?
그림에 나온 바와 같이 PostgreSql JDBC Driver의 org.postgresql.jdbc3g.Jdbc3gPreparedStatement인 점을 확인할 수 있어요. 해당 시스템은 PostgreSql DB를 사용하고 있었네요.
이처럼 Finalizer 참조 객체 대부분은 Jdbc3gPreparedStatement 객체임을 알 수 있어요. 여기서 Statement 객체는, DB에 SQL Query를 실행하기 위한 객체에요.
그렇다면, 아직 Finalize 처리되지 않은 Statement 객체가 증가하는 이유는 무엇일까요?
먼저 해당 Statement 객체는 실제로 어디서 참조하는지 살펴볼게요. 해당 객체는 TimerThread가 참조하는 TaskQueue에 들어가 있어요. 해당 Timer는 Postgresql Driver의 CancelTimer이죠.
해당 Timer의 작업 큐를 확인해 보면 PostgreSql Statement 객체와 관련된 Task 객체도 알 수도 있어요.
그럼 org.postgresql.jdbc3g.Jdbc3gPreparedStatement 클래스가 어떻게 동작하는지 자세히 알아볼까요?
org.postgresql.jdbc3g.Jdbc3gPreparedStatement는 org.postgresql.jdbc2.AbstractJdbc2Statement의 상속 클래스이며 finalize() 메서드를 재정의한 클래스에요. Finalize 처리를 위해 객체 생성 시, JVM에 의해 Finalizer 체인으로 등록되죠.
위와 같은 코드로 보아 CancelTimer는, Query 실행 후 일정 시간이 지나면 자동으로 TimeOut 취소 처리를 위한 Timer에요.
정해진 시간 내에 정상적으로 Query가 수행되고 객체를 종료(Close) 시, Timer를 취소하도록 되어 있어요. 이때 취소된 Task는 상태 값만 변경되고, 실제로는 Timer의 큐에서 아직 사라지진 않아요.
Timer에 등록된 작업은, TimerThread에 의해 순차적으로 처리돼요. Task는 TimerThread에서 처리를 해야 비로소 큐에서 제거되거든요.
이때 가져온 Task는 취소 상태가 아니며, 처리 시간에 아직 도달하지 않은 경우 해당 Task의 실행 예정 시간까지 대기해야 돼요.
여기서 문제점이 발생해요.
이 대기 시간이 길어지면 TimerThread의 처리가 지연되기 때문이죠. 이후 대기 Task들은 상태 여부에 상관없이, 큐에 지속적으로 남아있게 돼요.
만약 오랜 시간 동안 처리가 진행되지 않는다면, 여러 번의 Minor GC 발생 후 참조 객체들은 영구 영역(Old Gen)으로 이동될 수 있어요.
영구 영역으로 이동된 객체는, 메모리에 즉시 제거되지 못하고 오랜 기간 남게 되죠. 이는 Old(Full) GC를 발생시켜 시스템 부하를 유발하게 해요. 실제로 시스템에 설정된 TimeOut 값은 3,000초(50분)에요.
Finalizer 참조 객체는 GC 발생 시, 즉시 메모리에서 수집되지 않고 Finalize 처리를 위한 대기 큐에 들어가요. 그다음 FinalizerThread에 의해 Finalize 처리 후 GC 발생 시 비로소 제거되죠. 때문에 리소스의 수집 처리가 지연될 수 있어요.
또한 FinalizerThread 스레드는 우선순위가 낮아요. Finalize 처리 객체가 많은 경우, CPU 리소스가 상대적으로 부족해지면 개체의 Finalize 메서드 실행을 지연하게 만들어요. 처리되지 못한 객체는 누적되게 만들죠.
요약한다면 FinalReference 참조 객체의 잘못된 관리는
1) 객체의 재 참조를 유발 2) 불필요한 객체의 누적을 유발 3) Finalize 처리 지연으로 인한 리소스 누적을 유발
하게 해요.
PART2.
제니우스 APM을 통해 Finalize 객체를 모니터링하는 방법
Zenius APM에서는 JVM 메모리를 모니터링하고 분석하기 위한, 다양한 데이터를 수집하고 있어요. 상단에서 보았던
FinalReference 참조 객체의 현황에 대한 항목도 확인
할 수 있죠.
APM 모니터링을 통해 Finalize 처리에 대한 문제 발생 가능성도
‘사전’
에 확인
할 수 있답니다!
위에 있는 그림은 Finalize 처리 대기(Pending)중인 객체의 개수를 확인 가능한 컴포넌트에요.
이외에도 영역별 메모리 현황 정보와 GC 처리 현황에 대해서도 다양한 정보를 확인 할 수 있어요!
이상으로 Finalize 처리 객체에 의한 리소스 문제 발생 가능성을, 사례를 통해 살펴봤어요. 서비스에 리소스 문제가 발생하고 있다면, 꼭 도움이 되었길 바라요!
------------------------------------------------------------
©참고 자료
◾ uxys, http://www.uxys.com/html/JavaKfjs/20200117/101590.html
◾ Peter Lawrey, 「is memory leak? why java.lang.ref.Finalizer eat so much memory」, stackoverflow, https://stackoverflow.com/questions/8355064/is-memory-leak-why-java-lang-ref-finalizer-eat-so-much-memory
◾ Florian Weimer, 「Performance issues with Java finalizersenyo」, enyo,
https://www.enyo.de/fw/notes/java-gc-finalizers.html
------------------------------------------------------------
#APM
#Finalize
#제니우스
#메모리 누수
#Zenius
#FinalReference
#제니우스 APM
김진광
APM팀(개발3그룹)
개발3그룹 APM팀에서 제품 개발과 기술 지원을 담당하고 있습니다.
필진 글 더보기
목록으로
추천 콘텐츠
이전 슬라이드 보기
리눅스와 윈도우의 시스템 로그를 효과적으로 모니터링하는 법
리눅스와 윈도우의 시스템 로그를 효과적으로 모니터링하는 법
대부분의 운영체제(OS)와 프로그램은 시스템 상태를 기록하기 위해 다양한 로그를 생성합니다. 이 로그들은 시스템의 장애를 감지하고, 예측하며, 침입을 탐지하고, 서비스가 정상적으로 작동하는지를 확인할 수 있습니다. 그렇다면 모든 운영체제가 동일한 방식으로 로그를 남길까요? 정답은 NO!입니다. 우리가 주로 사용하는 리눅스(Linux)와 윈도우(Window) 운영체제는 로그 관리 방식이 서로 다릅니다. 리눅스는 여러 위치에 로그를 분산해 저장하는 반면, 윈도우는 이벤트 로그라는 중앙 집중화된 방식으로 관리합니다. 따라서 이번 글에서는 각 운영체제의 로그 체계가 어떻게 구성되어 있는지, 이러한 로그들이 왜 중요하고, 효과적으로 모니터링하는 방법은 무엇인지 살펴보도록 하겠습니다. 1. 리눅스 로그 종류 리눅스의 주요 로그는 /var/log 디렉토리에 저장되며, 파일 형태 또는 바이너리(이진법) 형태로 기록됩니다. 이 로그 파일들은 특정 상황을 기록하고, 장애 발생 시 필요한 정보를 제공합니다. 리눅스 로그는 크게 시스템 로그, 부팅 로그, 보안 로그로 분류하여 관리합니다. 시스템 로그는 syslog나 rsyslog에 의해 관리되며, 설정에 따라 특정 항목을 제외한 대부분의 시스템 이벤트가 기록됩니다. 시스템 로그에는 메모리 부족으로 인한 성능 저하나 애플리케이션 종료와 같은 자원 문제뿐 아니라, 네트워크 연결 오류로 인해 네트워크 인터페이스 카드(NIC)에서 발생한 문제, 프로그램이 시스템 내 잘못된 경로나 리소스에 접근하려 할 때의 오류가 포함됩니다. 문제가 발생했을 때 가장 먼저 확인하는 로그 파일로, 문제 원인 분석과 해결에 중요한 역할을 합니다. 서버에는 운영 체제(OS) 외에도 데이터베이스(DB), 웹 애플리케이션 서버(WAS) 등 다양한 애플리케이션이 실행됩니다. 이때 시스템 자원 문제는 애플리케이션 성능을 저하시킬 수 있고, 반대로 애플리케이션 오류가 시스템에 영향을 주기도 합니다. 시스템 로그는 이러한 상호작용을 파악하고 장애를 조기에 진단하는 데 필요한 데이터를 제공합니다. 부팅 로그는 서버가 시작될 때 발생하는 주요 이벤트를 기록하여 시스템이 정상적으로 초기화되었는지 확인하는 데 사용됩니다. 이 로그는 커널 업데이트나 BIOS 펌웨어 변경으로 서버를 재부팅하거나 설정이 변경될 때 유용한 자료가 됩니다. 부팅 로그는 주로 두 파일로 구성되는데요. boot.log는 각 서비스가 정상적으로 시작되었는지 기록하고, dmesg는 커널이 기록한 하드웨어 상태와 초기 설정 정보를 포함합니다. 이를 통해 서버가 정상적으로 부팅되지 않거나 서비스가 제대로 작동하지 않을 때 문제의 원인을 파악할 수 있습니다. 보안 로그는 서버에 접근한 기록과 인증 정보를 담고 있습니다. 예를 들어 telnet, SSH, FTP 등을 통해 서버에 로그인할 때마다 어떤 방식을 접속했는지 secure 로그 파일에 기록됩니다. 보안 로그는 특히 해킹 시도나 비정상적인 접근이 발생했을 때 중요한 자료가 되며, 반복적인 로그인 실패와 같은 의심스러운 활동을 추적하는 데 사용됩니다. 시스템 로그와 보안 로그는 로그 레벨에 따라 로깅의 내용이 달라집니다. 로그 레벨이 높아지면 더 많은 정보가 기록되지만, 그만큼 불필요한 내용까지 출력되기 때문에 상황에 맞게 조절해야 합니다. 특히 ERR 등급 이하의 로그는 시스템이나 프로그램의 정상 작동에 영향을 줄 수 있는 항목이기 때문에, 이러한 이벤트가 발생하면 빠르게 대응하는 것이 필요합니다. 2. 윈도우 로그 종류 윈도우 로그는 이벤트 로그 형식으로 중앙 집중화되어 관리됩니다. 시스템 로그가 한 곳에서 관리되기 때문에 문제가 발생했을 때 접근이 용이합니다. 이벤트 로그는 [시작] → [제어] → [관리 도구] → [이벤트 뷰어] 또는 eventvwr 명령어로 쉽게 확인할 수 있습니다. 윈도우의 이벤트 로그는 시스템, 보안, 애플리케이션, 설치 이렇게 네 가지 카테고리로 통합되어 관리됩니다. 각 이벤트에는 고유한 ID가 부여되어 있어, 문제 발생 시 검색 기능을 통해 빠르게 조회할 수 있습니다. 프로그램이 충돌하여 종료되거나 하드웨어 장애 같은 시스템 문제가 발생하면 이벤트 로그에 오류로 기록되며, 이러한 오류 이벤트가 발생하면 신속한 대응이 필요합니다. 3. 효율적으로 시스템 로그 모니터링하는 법 리눅스와 윈도우가 서로 다른 방식으로 시스템 로그를 관리함에 따라, 각각의 로그 시스템의 상태를 실시간으로 파악하고 문제 발생 시 신속하게 대응할 수 있어야 합니다. 하지만 서버의 개수가 많아질수록 이러한 로그들을 24시간 내내 모니터링 하기란 쉽지 않습니다. 특히 예상치 못한 상황에서 빠르게 대응하려면 효율적인 모니터링 솔루션이 필수입니다. 로그 모니터링이 가능한 Zenius SMS은 시스템 로그의 잠재적인 문제를 사전에 감지하고, 문제가 발생했을 때 즉각적인 알림을 통해 서비스가 안정적으로 운영될 수 있도록 지원합니다. 모니터링이 필요한 로그 파일 경로와 특정 장애 문자열을 설정하면, 커널로그뿐만 아니라 운영 중인 다양한 서비스 로그까지 모니터링할 수 있습니다. 다음 내용을 통해 좀 더 자세한 기능을 살펴보겠습니다. 3-1. 로그 감시 (일반 정규식) Zenius SMS는 기본적으로 일반 정규식을 사용하여 특정 장애 문자열이 포함된 로그 항목을 간단히 감지할 수 있습니다. 예를 들어 'error'와 같은 특정 단어를 설정해두면, 해당 단어가 포함된 로그가 발생할 때마다 자동으로 탐지하여 관련 이벤트로 기록됩니다. 이러한 기능은 간단한 오류 모니터링에 적합하며, 빠르게 문제 상황을 파악할 때 유용합니다. 3-2. 로그 감시 (확장 정규식) Zenius SMS는 보다 정교한 모니터링이 필요한 상황을 위해 확장 정규식 기능도 지원합니다. 특정 패턴이나 조건을 설정하여 로그 이벤트를 세밀하게 감지할 수 있습니다. 예를 들어 변수 문자열을 활용하거나 특정 컨테이너가 'running' 상태가 아닐 때만 탐지하거나, 특정 서비스 이름과 오류 메시지가 함께 포함된 경우만 감지하는 등의 설정이 가능합니다. 이러한 기능은 복잡한 시스템 환경에서 더욱 세부적인 조건을 감지하고 대응하는 데 유리합니다. 윈도우의 이벤트 로그의 중요도에 따라 서버에 직접 접속하지 않고도 실시간으로 확인할 수 있습니다. 또한 '내보내기' 기능을 통해 특정 로그 이벤트의 이력을 별도로 저장하고 관리할 수 있습니다. 3-3. 윈도우 이벤트 로그 감시 Zenius SMS는 윈도우 이벤트 로그에서 특정 내용이나 이벤트 ID를 지정하여 선택적인 모니터링이 가능합니다. 발생 횟수, 유효 기간, 구분(예:시스템), 종류(예:정보) 등의 다양한 조건과 이벤트 ID를 설정하여, 설정된 조건에 맞는 이벤트만 필터링할 수 있습니다. 이를 통해 중요한 이벤트에 집중하여 효율적으로 로그를 관리할 수 있습니다. 3-4. 로그 파일 모니터링 로그 파일은 단순히 장애 문자열을 감지하는 용도뿐만 아니라, 파일 내 특정 값을 추출해 수치 데이터로 관리할 수 있는 다양한 기능을 제공합니다. Zenius SMS 모니터링 솔루션은 이러한 로그 파일에서 추출한 데이터를 차트 형태로 시각화하여 실시간 모니터링이 가능합니다. 로그 감시 설정에서 특정 값에 변수를 지정하면, 로그 파일에서 추출한 count 값이나 현재 상태를 실시간으로 추적할 수 있습니다. 이러한 기능을 통해 서버 상태뿐 아니라, 데이터베이스(DB) 결과 값이나 웹 애플리케이션 서버(WAS) 상태 등도 한눈에 파악할 수 있습니다. 서버 환경이 점차 복잡해질수록 시스템 로그 모니터링의 중요성은 더욱 커지고 있습니다. 특히 리눅스(Linux)와 윈도우(Window) 등 운영체제에서 발생하는 로그 파일을 실시간으로 모니터링하고, 문제가 발생하면 즉각 대응할 수 있는 체계는 안정적인 서비스 운영에 필수입니다. Zenius SMS와 같은 솔루션은 정규식 기반의 로그 감지, 실시간 알림, 데이터 시각화 기능을 통해 잠재적인 문제를 신속하게 파악할 수 있도록 지원합니다. 이러한 기능을 갖춘 솔루션을 통해 서버 상태를 명확히 파악하고, 예기치 않은 상황에서도 안정적인 서비스를 운영해 보시길 바랍니다!
2024.11.05
다음 슬라이드 보기