반복영역 건너뛰기
주메뉴 바로가기
본문 바로가기
제품/서비스
EMS Solution
Features
클라우드 관리
AI 인공지능
서버관리
데이터베이스 관리
네트워크 관리
트래픽 관리
설비 IoT 관리
무선 AP 관리
교환기 관리
운영자동화
실시간 관리
백업 관리
APM Solution
애플리케이션 관리
URL 관리
ITSM Solution
서비스데스크
IT 서비스 관리
Big Data Solution
SIEM
Dashboard
대시보드
Consulting Service
컨설팅 서비스
고객
레퍼런스
고객FAQ
문의하기
가격
자료실
카탈로그
사용자매뉴얼
회사소개
비전·미션
연혁
2016~현재
2000~2015
인증서·수상
투자정보
재무정보
전자공고
IR자료
새소식
공고
보도자료
오시는 길
채용
피플
컬처
공고
FAQ
블로그
열기
메인 페이지로 이동
블로그
최신이야기
블로그
최신이야기
사람이야기
회사이야기
기술이야기
다양한이야기
카프카를 통한 로그 관리 방법
메모리 누수 위험있는 FinalReference 참조 분석하기
김진광
2023.10.12
페이스북 공유하기
트위터 공유하기
링크드인 공유하기
블로그 공유하기
[행사] 브레인즈컴퍼니 ‘가을문화행사 2023’
Java에서 가장 많이 접하는 문제는 무엇이라 생각하시나요? 바로 리소스 부족 특히 ‘JVM(Java Virtual Machine) 메모리 부족 오류’가 아닐까 생각해요.
메모리 부족 원인에는 우리가 일반적으로 자주 접하는 누수, 긴 생명주기, 다량의 데이터 처리 등 몇 가지 패턴들이 있는데요. 오늘은 좀 일반적이지 않은(?) 유형에 대해 이야기해 볼게요!
Java 객체 참조 시스템은 강력한 참조 외에도 4가지 참조를 구현해요. 바로 성능과 확장성 기타 고려사항에 대한 SoftReference, WeakReference, PhantomReference, FinalReference이죠. 이번 포스팅은
FinalReference를 대표적인 사례
로 다루어 볼게요.
PART1. 분석툴을 활용해 메모리 누수 발생 원인 파악하기
메모리 분석 도구를 통해 힙 덤프(Heap Dump)를 분석할 때, java.lang.ref.Finalizer 객체가 많은 메모리를 점유하는 경우가 있어요. 이 클래스는 FinalReference와 불가분의 관계에요. 나눌 수 없는 관계라는 의미죠.
아래 그림 사례는 힙 메모리(Heap Memory)의 지속적인 증가 후 최대 Heap에 근접 도달 시, 서비스 무응답 현상에 빠지는 분석 사례인데요. 이를 통해 FinalReference 참조가 메모리 누수를 발생시킬 수 있는 조건을 살펴볼게요!
Heap Analyzer 분석툴을 활용하여, 힙 덤프 전체 메모리 요약 현황을 볼게요. java.lang.ref.Finalizer의 점유율이 메모리의 대부분을 점유하고 있죠. 여기서 Finalizer는, 앞에서 언급된 FinalReference를 확장하여 구현한 클래스에요.
JVM은 GC(Garbage Collection) 실행 시 해제 대상 객체(Object)를 수집하기 전, Finalize를 처리해야 해요.
Java Object 클래스에는 아래 그림과 같이 Finalize 메서드(Method)가 존재하는데요. 모든 객체가 Finalize 대상은 아니에요.
JVM은 클래스 로드 시, Finalize 메서드가 재정의(Override)된 객체를 식별해요. 객체 생성 시에는 Finalizer.register() 메서드를 통해, 해당 객체를 참조하는 Finalizer 객체를 생성하죠.
그다음은 Unfinalized 체인(Chain)에 등록해요. 이러한 객체는 GC 발생 시 즉시 Heap에서 수집되진 않아요. Finalizer의 대기 큐(Queue)에 들어가 객체에 재정의된 Finalize 처리를 위해 대기(Pending) 상태에 놓여있죠.
위 그림과 같이 참조 트리(Tree)를 확인해 보면, 많은 Finalizer 객체가 체인처럼 연결되어 있어요. 그럼 Finalizer 객체가 실제 참조하고 있는 객체는 무엇인지 바로 살펴볼까요?
그림에 나온 바와 같이 PostgreSql JDBC Driver의 org.postgresql.jdbc3g.Jdbc3gPreparedStatement인 점을 확인할 수 있어요. 해당 시스템은 PostgreSql DB를 사용하고 있었네요.
이처럼 Finalizer 참조 객체 대부분은 Jdbc3gPreparedStatement 객체임을 알 수 있어요. 여기서 Statement 객체는, DB에 SQL Query를 실행하기 위한 객체에요.
그렇다면, 아직 Finalize 처리되지 않은 Statement 객체가 증가하는 이유는 무엇일까요?
먼저 해당 Statement 객체는 실제로 어디서 참조하는지 살펴볼게요. 해당 객체는 TimerThread가 참조하는 TaskQueue에 들어가 있어요. 해당 Timer는 Postgresql Driver의 CancelTimer이죠.
해당 Timer의 작업 큐를 확인해 보면 PostgreSql Statement 객체와 관련된 Task 객체도 알 수도 있어요.
그럼 org.postgresql.jdbc3g.Jdbc3gPreparedStatement 클래스가 어떻게 동작하는지 자세히 알아볼까요?
org.postgresql.jdbc3g.Jdbc3gPreparedStatement는 org.postgresql.jdbc2.AbstractJdbc2Statement의 상속 클래스이며 finalize() 메서드를 재정의한 클래스에요. Finalize 처리를 위해 객체 생성 시, JVM에 의해 Finalizer 체인으로 등록되죠.
위와 같은 코드로 보아 CancelTimer는, Query 실행 후 일정 시간이 지나면 자동으로 TimeOut 취소 처리를 위한 Timer에요.
정해진 시간 내에 정상적으로 Query가 수행되고 객체를 종료(Close) 시, Timer를 취소하도록 되어 있어요. 이때 취소된 Task는 상태 값만 변경되고, 실제로는 Timer의 큐에서 아직 사라지진 않아요.
Timer에 등록된 작업은, TimerThread에 의해 순차적으로 처리돼요. Task는 TimerThread에서 처리를 해야 비로소 큐에서 제거되거든요.
이때 가져온 Task는 취소 상태가 아니며, 처리 시간에 아직 도달하지 않은 경우 해당 Task의 실행 예정 시간까지 대기해야 돼요.
여기서 문제점이 발생해요.
이 대기 시간이 길어지면 TimerThread의 처리가 지연되기 때문이죠. 이후 대기 Task들은 상태 여부에 상관없이, 큐에 지속적으로 남아있게 돼요.
만약 오랜 시간 동안 처리가 진행되지 않는다면, 여러 번의 Minor GC 발생 후 참조 객체들은 영구 영역(Old Gen)으로 이동될 수 있어요.
영구 영역으로 이동된 객체는, 메모리에 즉시 제거되지 못하고 오랜 기간 남게 되죠. 이는 Old(Full) GC를 발생시켜 시스템 부하를 유발하게 해요. 실제로 시스템에 설정된 TimeOut 값은 3,000초(50분)에요.
Finalizer 참조 객체는 GC 발생 시, 즉시 메모리에서 수집되지 않고 Finalize 처리를 위한 대기 큐에 들어가요. 그다음 FinalizerThread에 의해 Finalize 처리 후 GC 발생 시 비로소 제거되죠. 때문에 리소스의 수집 처리가 지연될 수 있어요.
또한 FinalizerThread 스레드는 우선순위가 낮아요. Finalize 처리 객체가 많은 경우, CPU 리소스가 상대적으로 부족해지면 개체의 Finalize 메서드 실행을 지연하게 만들어요. 처리되지 못한 객체는 누적되게 만들죠.
요약한다면 FinalReference 참조 객체의 잘못된 관리는
1) 객체의 재 참조를 유발 2) 불필요한 객체의 누적을 유발 3) Finalize 처리 지연으로 인한 리소스 누적을 유발
하게 해요.
PART2.
제니우스 APM을 통해 Finalize 객체를 모니터링하는 방법
Zenius APM에서는 JVM 메모리를 모니터링하고 분석하기 위한, 다양한 데이터를 수집하고 있어요. 상단에서 보았던
FinalReference 참조 객체의 현황에 대한 항목도 확인
할 수 있죠.
APM 모니터링을 통해 Finalize 처리에 대한 문제 발생 가능성도
‘사전’
에 확인
할 수 있답니다!
위에 있는 그림은 Finalize 처리 대기(Pending)중인 객체의 개수를 확인 가능한 컴포넌트에요.
이외에도 영역별 메모리 현황 정보와 GC 처리 현황에 대해서도 다양한 정보를 확인 할 수 있어요!
이상으로 Finalize 처리 객체에 의한 리소스 문제 발생 가능성을, 사례를 통해 살펴봤어요. 서비스에 리소스 문제가 발생하고 있다면, 꼭 도움이 되었길 바라요!
------------------------------------------------------------
©참고 자료
◾ uxys, http://www.uxys.com/html/JavaKfjs/20200117/101590.html
◾ Peter Lawrey, 「is memory leak? why java.lang.ref.Finalizer eat so much memory」, stackoverflow, https://stackoverflow.com/questions/8355064/is-memory-leak-why-java-lang-ref-finalizer-eat-so-much-memory
◾ Florian Weimer, 「Performance issues with Java finalizersenyo」, enyo,
https://www.enyo.de/fw/notes/java-gc-finalizers.html
------------------------------------------------------------
#APM
#Finalize
#제니우스
#메모리 누수
#Zenius
#FinalReference
#제니우스 APM
김진광
APM팀(개발3그룹)
개발3그룹 APM팀에서 제품 개발과 기술 지원을 담당하고 있습니다.
필진 글 더보기
목록으로
추천 콘텐츠
이전 슬라이드 보기
하이브리드 클라우드의 5가지 도전과제
하이브리드 클라우드의 5가지 도전과제
클라우드를 활용하는 기업들은 일반적으로 하이브리드 클라우드 환경을 구성합니다. 단일 클라우드 환경에 비해서 여러 가지 장점이 있기 때문입니다. 하이브리드 클라우드는 멀티 클라우드의 일종입니다. 멀티 클라우드(Multi Cloud)는 하나 이상의 클라우드 환경을 병행하여 활용하는 것을 의미합니다. 클라우드 환경이 퍼블릭이든 프라이빗이든 상관없습니다. 멀티 클라우드는 특히 퍼블릭 클라우드 서비스를 활용할 때 하나의 서비스 제공업체에 종속되지 않고, 각 서비스의 특화된 기능을 조합하여 성능과 비용 효율성을 극대화하기 위해서 주로 활용됩니다. 하이브리드 클라우드(Hybrid Cloud)는 반드시 하나 이상의 퍼블릭 클라우드와 프라이빗 클라우드(또는 온프레미스 인프라)를 함께 사용하는 방식을 일컫습니다. 이 방식은 프라이빗 클라우드의 높은 보안성과 퍼블릭 클라우드의 유연한 확장성을 동시에 활용할 수 있다는 장점이 있습니다. 예를 들어 보안 유지와 규제 준수가 요구되는 민감한 데이터는 프라이빗 클라우드에 안전하게 저장하고, 트래픽의 변동성이 커서 유연성과 확장성이 필요한 서비스는 퍼블릭 클라우드에서 처리하는 방식입니다. 이를 통해 기업은 데이터 보안과 확장성 간의 균형을 유지하며, 비용을 절감할 수 있습니다. 레거시 환경에서부터 출발하여 클라우드 전환을 실행한 대부분의 조직들은 이와 같은 하이브리드 클라우드 환경을 갖추고 있다고 볼 수 있습니다. 두 개 이상의 퍼블릭 클라우드 서비스와 기업 내부의 프라이빗 클라우드 시스템 또는 온프레미스 시스템을 동시에 활용하기 때문입니다. 그러나 이러한 하이브리드 클라우드 장점을 최대한 활용하려면 몇 가지 도전 과제가 있습니다. 이 과제들을 어떻게 해결하느냐에 따라 하이브리드 클라우드의 성공적인 도입과 운영이 좌우됩니다. 이러한 도전 과제들에 대해 자세히 살펴보겠습니다. 통합 운영 및 자동화 체계 구축 각 클라우드 환경은 서로 다른 가상화 기술을 기반으로 운영되기 때문에, 이를 하나의 통합된 인터페이스에서 관리하려면 고유한 관리 도구와 API를 통합하고 상호 호환성을 확보하는 작업이 필수입니다. 또한, 클라우드 간에 워크로드를 자유롭게 이동하거나 자원을 효율적으로 관리하려면 일관된 오케스트레이션 체계를 구축해야 하지만, 각 클라우드가 고유의 관리 프로토콜을 사용하기 때문에 이를 통합하는 과정에서 기술적인 어려움이 발생할 수 있습니다. 이와 같은 통합 문제는 자동화 시스템 구축에서도 큰 난제로 작용합니다. 퍼블릭 클라우드의 오토스케일링(Auto Scaling)이나 리소스 프로비저닝(Resource Provisioning)과 같은 기능은 퍼블릭 클라우드에 특화된 기술로, 이를 프라이빗 클라우드에 동일하게 구현하는 것에도 어려움이 따릅니다. 이러한 기술적 차이를 해결하기 위해서는 양쪽 클라우드 환경을 통합하는 자동화 시스템을 설계해야 하며, 이 과정에서 복잡한 기술적 이슈가 제기될 수 있습니다. 예를 들어 퍼블릭 클라우드의 확장성과 유연성을 프라이빗 클라우드에서도 동일하게 적용하려면, 각 환경에 적합한 자동화 규칙과 관리 프로세스를 개발해야 합니다. 하지만 이 과정에서 많은 리소스와 시간이 요구되며, 결국 운영 효율성을 저하시키고, 자동화 시스템의 불완전함으로 인해 운영자의 수동 개입이 필요하게 되는 상황을 초래할 수 있습니다. 데이터 관리 하이브리드 클라우드 환경에서의 데이터 관리는 이동성, 일관성, 보존, 거버넌스 등 다양하고 복잡한 과제가 따릅니다. 특히 데이터가 여러 물리적 위치에 분산되어 저장하고 처리되기 때문에 모든 위치에서 일관된 상태를 유지하는 것이 어렵습니다. 예를 들어 프라이빗 클라우드에서 수정된 데이터가 퍼블릭 클라우드와 즉시 동기화되지 않을 경우, 데이터 불일치가 발생할 수 있으며 비즈니스 프로세스에 중대한 영향을 줄 수 있습니다. 또한 클라우드 간의 데이터 이동은 네트워크 성능에 크게 의존합니다. 대용량 데이터를 전송할 때 네트워크 지연이 발생하면 시스템 성능이 저하될 수 있으며, 특히 실시간 데이터 처리가 중요한 애플리케이션에는 이러한 지연이 심각한 성능 문제로 이어질 수 있습니다. 따라서 실시간 데이터 처리 환경에서는 네트워크 대역폭을 최적화하고 지연 시간을 최소화하는 것이 핵심 과제이며, 이를 제대로 해결하지 못하면 비즈니스의 신속한 의사 결정과 대응 능력이 저하될 수 있습니다. 추가적으로 데이터를 여러 클라우드 환경에 복제하여 관리할 경우, 불필요한 데이터 중복이 발생할 수 있어 스토리지 비용이 크게 증가할 수 있습니다. 이러한 비용 증가를 방지하려면 철저한 데이터 복제 정책과 함께 효율적인 스토리지 관리 전략을 반드시 수립해야 합니다. 비용 관리 하이브리드 클라우드는 유연한 비용 구조를 제공하지만, 이를 효과적으로 관리하지 못할 경우 비용이 급격히 증가할 수 있습니다. 프라이빗 클라우드와 퍼블릭 클라우드는 서로 다른 방식으로 비용을 책정하기 때문에, 이를 통합 관리하는 것은 쉽지 않은 일입니다. 특히 퍼블릭 클라우드는 사용한 만큼 요금을 부과하는 구조라서, 예상치 못한 리소스 사용이나 자원의 과도한 할당이 발생하면 비용이 급격히 증가할 위험이 있습니다. 반면, 프라이빗 클라우드는 고정된 인프라 유지 비용이 지속적으로 발생하기 때문에 두 환경의 비용을 동시에 효율적으로 통제하지 않으면 예기치 못한 지출로 이어질 수 있습니다. 따라서 이러한 이질적인 비용 모델을 결합해 장기적으로 비용을 예측하고 최적화하는 것이 매우 까다롭습니다. 워크로드의 특성에 따라 어느 환경이 더 비용 효율적인지를 판단하는 리소스 최적화 역시 복잡성을 더하는 요소입니다. 모든 워크로드가 퍼블릭 클라우드에서 비용 효율적인 것은 아니며, 프라이빗 클라우드에서 더 적합한 워크로드도 존재하기 때문에 이러한 선택이 적절히 이루어지지 않으면 불필요한 비용이 발생할 수 있습니다. 네트워크 관리 하이브리드 클라우드 환경에서 네트워크 성능은 시스템 전반의 안정성과 효율성이 직결되는 핵심 요소입니다. 프라이빗 클라우드와 퍼블릭 클라우드 간에 데이터 전송 시, 물리적 거리에 따른 네트워크 지연(latency)이 발생할 수밖에 없습니다. 이러한 지연은 대규모 데이터 처리 애플리케이션이나 실시간 트랜잭션을 요구하는 워크로드에서 치명적인 성능 저하를 초래할 수 있습니다. 이러한 문제를 완화하기 위해 네트워크 경로 최적화, 지능형 트래픽 관리 및 QoS(Quality of Service) 설정과 같은 고급 네트워크 성능 튜닝이 필요합니다. 또한 하이브리드 클라우드 환경에서 빈번하게 발생하는 대규모 데이터 전송은 대역폭 제한을 초래할 수 있습니다. 적절한 네트워크 프로비저닝과 데이터 압축, 캐싱 기법을 적용하지 않으면 네트워크 병목현상이 발생하여 시스템 성능에 부정적인 영향을 미칠 수도 있습니다. 더불어 네트워크 장애는 클라우드 서비스 전체에 심각한 중단을 일으킬 수 있기 때문에, 이를 예방하고 빠르게 복구할 수 있는 사전 준비가 필요합니다. 장애에 대비하려면 고가용성(HA) 네트워크 설계, 자동으로 장애를 감시하는 시스템, 그리고 멀티패스(multipath) 라우팅 같은 복구 방법을 적용해야 합니다. 하지만 이러한 작업은 여러 네트워크 계층이 얽혀 있고, 클라우드 시스템 간 상호작용이 복잡하기 때문에, 높은 기술력과 체계적인 관리를 필요로 합니다. 보안 및 규제 준수 프라이빗 클라우드와 퍼블릭 클라우드라는 이질적인 환경에서 데이터를 동시에 관리하고 보호해야 하기 때문에, 다양한 보안 위협과 복잡한 규제 요구사항을 충족시키는 것이 기술적으로 까다롭습니다. 특히 프라이빗 클라우드에서는 기업이 자체적으로 설정한 보안 정책과 방화벽, 액세스 제어 등을 사용할 수 있습니다. 반면 퍼블릭 클라우드에서는 클라우드 서비스 제공자가 제공하는 보안 프로토콜과 방어 체계가 의존해야 하므로, 이 두 환경을 일관되게 통합해 운영하는 것이 매우 복잡합니다. 데이터 보호 측면에서 암호화와 키 관리가 중요한 역할을 하지만, 각 클라우드 플랫폼이 사용하는 암호화 표준 및 키 관리 프로토콜이 상이할 수 있어 이를 일관되게 적용하는 것도 중요한 이슈입니다. 또한 하이브리드 클라우드 환경에서 규제를 준수하는 것은 매우 중요한 문제입니다. 그러나 데이터가 저장된 국가나 지역마다 규제 요구사항이 다르기 때문에, 모든 규정을 충족하는 것이 어려울 수 있습니다. 예를 들어 유럽연합의 GDPR, 미국의 HIPAA 같은 규제를 준수해야 하는 경우 퍼블릭 클라우드 제공자가 데이터가 저장하는 위치나 처리 방식을 명확하게 제공하지 않으면 규제 위반 가능성이 높아질 수 있습니다. 따라서 데이터 주권을 유지하기 위한 데이터 로컬리티 정책을 엄격하게 설정하고, 이를 지속적으로 모니터링하여 규제 준수 여부를 확인하는 추가적인 노력이 필요합니다. 하이브리드 클라우드의 성공적인 운영은 앞서 설명한 다섯 가지 핵심 과제들을 '얼마나 효과적으로 해결하느냐'에 달려 있습니다. 클라우드 간의 통합 관리, 비용 효율적인 운영, 그리고 보안 및 규제 준수의 문제는 단순히 기술적 과제일 뿐만 아니라 기업의 전략적 의사결정과도 깊이 연관되어 있습니다. 따라서 이러한 문제에 대한 종합적인 접근과 체계적인 해결책이 필요합니다.
2024.10.08
다음 슬라이드 보기