JVM 메모리 구조와 메모리 오버플로우

JVM 메모리 구조

JVM의 런타임 데이터 영역은 크게 스레드 공유 영역과 스레드 개별 영역으로 나뉩니다.

스레드가 공유하는 영역

• 메서드 영역 (Method Area)
• 힙 (Heap)

스레드별 개별 영역

• 프로그램 카운터 레지스터 (PC Register)
• 가상 머신 스택 (JVM Stack)
• 네이티브 메서드 스택 (Native Method Stack)

각 메모리 영역 상세 분석

1. 프로그램 카운터 레지스터 (PC Register)

역할: 현재 실행 중인 바이트코드의 줄 번호를 가리키는 작은 메모리 영역

특징:

• 각 스레드마다 독립적으로 존재
• 자바 메서드 실행 시: 바이트코드 명령어 주소 저장
• 네이티브 메서드 실행 시: Undefined 상태
• 유일하게 OutOfMemoryError 조건이 명시되지 않은 영역

2. 자바 가상 머신 스택 (JVM Stack)

역할: 자바 메서드(바이트코드) 실행을 위한 메모리 모델

구성 요소:

• 지역 변수 테이블: 기본 데이터 타입, 객체 참조, 반환 주소 저장
• 피연산자 스택: 계산 과정에서 사용되는 임시 저장소
• 동적 링크: 메서드 간 연결 정보
• 메서드 반환값: 호출한 메서드로 돌아갈 정보

발생 가능한 오류:

• StackOverflowError: 스택 깊이 한계 초과 (무한 재귀 등)
• OutOfMemoryError: 스택 확장 시 메모리 부족

3. 네이티브 메서드 스택 (Native Method Stack)

역할: JNI(Java Native Interface)를 통해 호출되는 네이티브 메서드 실행

특징:

• JVM 구현체마다 다른 방식으로 구현
• HotSpot JVM에서는 가상 머신 스택과 통합
• 자바 가상 머신 스택과 동일한 오류 발생 가능

4. 자바 힙 (Java Heap)

역할: 객체 인스턴스와 배열을 저장하는 가장 큰 메모리 영역

특징:

• 모든 스레드가 공유하는 영역
• 가비지 컬렉터(GC)가 관리하는 영역
• 물리적으로는 불연속이어도 논리적으로는 연속적

세대별 구분 (전통적인 GC 방식):

• 신세대 (Young Generation)
  • Eden Space: 새로 생성된 객체들의 첫 번째 거주지
  • Survivor Space (From/To): Eden에서 살아남은 객체들의 임시 거주지
• 구세대 (Old Generation): 오래 살아남은 객체들의 최종 거주지

주요 JVM 옵션:

• -Xms: 힙 초기 크기
• -Xmx: 힙 최대 크기

발생 가능한 오류:

• OutOfMemoryError: Java heap space: 힙 공간 부족

5. 메서드 영역 (Method Area)

역할: 클래스 수준의 정보를 저장하는 영역

저장되는 정보:

• 클래스와 인터페이스의 타입 정보
• 상수 풀 (Constant Pool)
• 정적 변수 (Static Variables)
• JIT 컴파일러가 컴파일한 코드 캐시

역사적 변천사:

• JDK 7 이전: PermGen (Permanent Generation)으로 구현
• JDK 8 이후: Metaspace로 구현 (네이티브 메모리 사용)

발생 가능한 오류:

• OutOfMemoryError: PermGen space (JDK 7 이전)
• OutOfMemoryError: Metaspace (JDK 8 이후)

6. 런타임 상수 풀 (Runtime Constant Pool)

역할: 메서드 영역의 일부로, 클래스 파일의 상수 풀 정보를 런타임에 관리

특징:

• 컴파일 타임 상수뿐만 아니라 런타임에도 새로운 상수 추가 가능
• String.intern() 메서드가 이 영역을 활용

7. 다이렉트 메모리 (Direct Memory)

역할: JVM 힙 외부의 네이티브 메모리를 직접 사용

사용 예시:

• NIO의 DirectByteBuffer
• 네이티브 라이브러리와의 상호작용

장점:

• 힙과 네이티브 메모리 간 복사 과정 생략으로 성능 향상

주의사항:

• -Xmx 설정과는 별개로 물리 메모리 한계에 영향받음
• 관리 소홀 시 OutOfMemoryError 발생 가능

 

 

참고 자료: 

JVM 밑바닥까지 파헤치기(인사이트) - 저우즈밍 저, 이복연 옮김

https://blackdogdev.medium.com/java-memory-management-68e572b16be8