birchholt 직접 해보고 남기는 기록

JVM 시작 330초를 3초로 줄인 CRaC: 체크포인트 이미지에 같이 얼어붙는 것들

JVM 서버가 뜨는 데 몇 분씩 걸려 배포와 오토스케일링이 느리다면 「JVM을 부팅하지 말고 복제하자」는 CRaC 도입기를 같이 읽어 볼 만합니다. Java 백엔드는 다뤄 봤지만 CRaC는 처음인 개발자를 위한 글입니다. 읽고 나면 CRaC가 무엇을 저장하는지, 도입할 때 코드와 빌드 파이프라인에서 무엇을 챙겨야 하는지 알 수 있습니다. 원문은 2026년 11월 3일 Housing.com 엔지니어링 블로그에 올라온 Pulkit Garg 님의 「JVM Startup Time Story: From 330 Seconds to 3」이고, GeekNews에 「JVM 시작 시간, 330초에서 3초로 줄이기」로 소개됐습니다. 저는 이 글을 읽고 AI와 대화하며 원리와 단점을 공부했고, 공부한 내용을 공식 문서와 소스로 확인한 뒤 Docker에서 직접 돌려 봤습니다.

결론부터 말하면 CRaC는 워밍업이 끝난 JVM 메모리를 통째로 얼려 두는 기술이라 성능만 얼어붙지 않습니다. 난수 상태와 메모리에 있던 비밀값, 체크포인트를 만든 CPU의 기능 목록까지 같이 저장되므로, 도입할 때는 이것들을 복원 뒤에 다시 만드는 코드와 기준 CPU 고정이 필요합니다.

원문이 줄인 것: 파드마다 반복하던 부팅과 워밍업

JVM은 처음에 바이트코드를 인터프리터로 느리게 실행하다가, 자주 도는 코드를 JIT(Just-In-Time) 컴파일러가 기계어로 바꿔 가며 점점 빨라집니다. 이렇게 빨라지기까지 걸리는 과정을 워밍업이라고 부릅니다. 원문 서비스는 파드(쿠버네티스에서 컨테이너를 띄우는 단위) 하나가 부팅에 약 75초, 실제 트래픽을 받을 만큼 데워지는 데 약 245초가 걸려 합쳐서 약 330초였습니다.

원문이 꼽은 비용은 세 가지입니다.

그래서 워밍업이 끝난 JVM 하나의 프로세스 상태를 디스크에 저장(체크포인트)해 두고, 새 파드는 부팅 대신 그 이미지에서 복원하게 했습니다. 원문이 밝힌 결과는 파드 준비 시간 약 330초 → 2~3초, 전체 배포 약 20분 → 4분, 정상 상태 파드 CPU는 기존의 약 20%입니다. 원문은 GraalVM 네이티브 이미지는 코드 수정 부담이 크고 JIT의 최고 성능을 포기해야 하며, AppCDS는 클래스 로딩만 빨라질 뿐 워밍업은 그대로라서 고르지 않았다고 적었습니다. 공부해 보니 두 대안은 조금 더 따져 볼 여지가 있었습니다. GraalVM 네이티브 이미지가 요구하는 것은 대부분 리플렉션·리소스 사용을 미리 적어 두는 설정이고, Spring Boot 3·Quarkus·Micronaut가 이 설정을 만들어 줍니다. 동적 기능에 많이 기대는 코드가 아니면 다시 짤 일은 드뭅니다. AppCDS는 원문 설명대로 클래스 데이터만 저장하지만, JDK 24부터 같은 구조가 AOT 캐시로 넓어져 워밍업 일부까지 줄입니다(아래 「다른 선택지」).

CRaC가 하는 일: 얼리기 전에 묻고, 깨운 뒤에 알린다

CRaC(Coordinated Restore at Checkpoint)는 실행 중인 JVM 프로세스를 이미지 파일로 저장했다가 나중에 그 시점부터 다시 실행하게 해 주는 OpenJDK 프로젝트입니다. 이름의 「Coordinated」는 저장 직전과 복원 직후에 애플리케이션에게 알려 준다는 뜻입니다. 애플리케이션은 Resource 인터페이스의 두 메서드로 이 알림을 받습니다.

JVM은 저장 직전에 아직 열려 있는 파일이나 소켓이 있는지 검사하고, 남아 있으면 체크포인트를 거부합니다. 네트워크 연결을 이미지에 넣었다가 억지로 되살리는 대신 「닫고 저장하고, 복원한 뒤 다시 연다」를 강제하는 셈입니다.

프로세스를 실제로 얼리고 되살리는 부분은 엔진이 맡고, 엔진은 -XX:CRaCEngine 옵션으로 바꿔 끼울 수 있습니다. openjdk/crac 소스의 리눅스 기본값은 CRIU(Checkpoint/Restore In Userspace, 실행 중인 프로세스를 디스크에 저장했다가 되살리는 리눅스 도구) 엔진입니다. Azul Zulu에는 CRIU를 쓰지 않는 자체 엔진 Warp가 있습니다. 제가 받은 Zulu 25 CRaC 빌드는 CRaCEngine = warp가 기본값이었고, 원문의 장애 로그도 warp:로 시작합니다.

CRIU가 프로세스를 얼리는 과정은 이렇습니다. 대상 프로세스를 PTRACE_SEIZE와 PTRACE_INTERRUPT로 멈추고, 그 안에 작은 기생 코드(parasite)를 심습니다. 기생 코드가 메모리 페이지를 vmsplice로 파이프에 넘기면 CRIU가 splice로 이미지 파일에 씁니다. 복원할 때는 프로세스 트리를 다시 만들어 같은 PID를 받고, 메모리를 제자리에 채운 뒤 레지스터를 되돌려 멈췄던 지점부터 실행합니다. CRIU는 TCP 연결도 되살릴 수 있습니다. 덤프하는 동안 네트워크를 잠가 두고 같은 IP로 복원하면, 상대가 연결을 아직 들고 있는 한 연결이 이어집니다. CRaC는 이 기능에 기대지 않고 위에서 말한 대로 열린 소켓 자체를 허용하지 않습니다.

CRaC는 아직 메인라인 OpenJDK에 들어가지 않았고 별도 저장소(openjdk/crac)에서 개발됩니다. 실제로 쓰려면 Azul Zulu나 BellSoft Liberica의 CRaC 빌드가 필요합니다.

Spring을 쓴다면 Spring Framework 6.1·Spring Boot 3.2부터 지원합니다. 다만 -Dspring.context.checkpoint=onRefresh로 시작 중에 자동으로 찍는 이미지는 컨텍스트가 시작되기 직전 시점이라, Spring 문서도 이 방식으로는 워밍업된 JVM을 얻지 못한다고 적었습니다. 원문처럼 워밍업까지 담으려면 앱을 띄우고 부하를 준 뒤 jcmd <pid> JDK.checkpoint로 따로 찍어야 합니다.

직접 돌려 본 결과

Spring 같은 실제 서비스가 아니라 수십 줄짜리 Java 프로그램 하나로 확인했습니다. 순서대로 따라 하면 같은 결과를 볼 수 있게 적었습니다.

실험 방법: 컨테이너 하나, 해시맵 일거리, 코드 안의 체크포인트

일반 OpenJDK에는 CRaC가 없어서 Azul이 Docker Hub에 공개한 CRaC 빌드 이미지를 받았습니다. Apple Silicon Mac에서 받았으므로 linux/aarch64 이미지입니다.

docker pull azul/zulu-openjdk:25-jdk-crac-latest
docker run --rm -v "$PWD":/w -w /w azul/zulu-openjdk:25-jdk-crac-latest sh -c '...'

컨테이너는 명령을 실행할 때마다 새로 띄웠고 작업 폴더만 /w로 연결했습니다. 체크포인트 이미지가 이 폴더에 남으므로 다음 컨테이너가 그 파일에서 복원할 수 있습니다. --privileged나 권한 옵션은 주지 않았습니다.

JIT를 데우는 일거리로는 해시맵에 문자열 키 20만 개를 넣고 꺼내는 함수를 만들었습니다.

static long work() {
    Map<String, Integer> m = new HashMap<>();
    long sum = 0;
    for (int i = 0; i < 200_000; i++) {
        String k = "k" + (i % 5000);
        m.merge(k, i, Integer::sum);
        sum += m.get(k) & 0xff;
    }
    return sum;
}

work() 한 번을 한 묶음으로 보고, 처음 8묶음(cold), 이어서 200묶음(warmup), 다시 8묶음(warm)을 돌리며 묶음마다 걸린 시간을 찍었습니다.

cold ms: 18 8 11 4 4 4 6 4 (sink 2)
warm ms: 3 3 3 3 3 3 3 3 (sink 2)

첫 묶음 18ms가 네다섯 묶음 만에 3~4ms로 내려갔습니다. JIT가 자주 도는 코드를 기계어로 바꾼 결과입니다. 이 예제에서 200묶음은 필요보다 훨씬 많았고, 원문의 245초짜리 워밍업과는 규모가 다릅니다. 데워진 JVM이 이미지에 그대로 담기는지 보려는 정도의 장난감입니다.

체크포인트는 원문처럼 밖에서 jcmd <pid> JDK.checkpoint를 보내는 대신 프로그램 안에서 불렀습니다.

batches("warm", 8);
randoms("before");               // 난수 값 출력
Core.checkpointRestore();        // 여기서 JVM 이 얼어 파일로 저장된다
System.out.println("restored");  // 복원하면 여기부터 다시 실행된다
randoms("after");

실행은 컴파일, 체크포인트, 복원 두 번입니다.

javac -d classes Demo.java
java -XX:CRaCCheckpointTo=/w/cr -cp classes Demo plain   # 데우고 저장
java -XX:CRaCRestoreFrom=/w/cr                            # 복원 1
java -XX:CRaCRestoreFrom=/w/cr                            # 복원 2

복원 명령에는 클래스 경로도 메인 클래스도 없는데 출력은 restored부터 시작합니다. 부팅을 건너뛰고 checkpointRestore() 다음 줄부터 이어서 실행되기 때문입니다. 시간은 셸에서 명령 시작부터 끝까지를 쟀습니다.

아래 실험들은 같은 프로그램에 첫 인자만 바꿔 넣었습니다.

CPU 기능 값은 같은 이미지를 --platform linux/amd64(x86_64 에뮬레이션)로 띄워 java -XX:+ShowCPUFeatures -version만 실행해 봤습니다.

권한 없이 찍히고, 63ms에 복원됐습니다

$ java -XX:CRaCCheckpointTo=/w/cr -cp classes Demo plain
warm ms: 3 3 3 3 3 3 3 3 (sink 2)
before Random.nextInt=692 SecureRandom.nextInt=450 UUID=ab25c90b
checkpointing
87275.062991: warp: Checkpoint successful!
Killed

$ java -XX:CRaCRestoreFrom=/w/cr     # 첫 번째 복원
87275.078559: warp: Restore successful!
restored
after Random.nextInt=234 SecureRandom.nextInt=473 UUID=983af4c9

$ java -XX:CRaCRestoreFrom=/w/cr     # 두 번째 복원
87275.142771: warp: Restore successful!
restored
after Random.nextInt=234 SecureRandom.nextInt=840 UUID=fd87cc20

Warp는 체크포인트를 찍은 뒤 원래 프로세스를 종료합니다(Killed). 복원은 명령을 실행해서 끝날 때까지 63ms, 65ms였고 이미지(core.img)는 32MB였습니다. 원문의 2~3초는 파드가 준비되기까지의 시간이고, JVM 복원 자체는 Spring 블로그에서도 수십 밀리초로 소개합니다. Azul 문서도 Warp는 체크포인트와 복원 모두 추가 권한이 필요 없다고 적었습니다. CRIU 엔진은 root 권한이나 컨테이너의 CHECKPOINT_RESTORE·SYS_PTRACE 권한이 필요하므로, CI 빌드 단계에 무엇을 열어 줘야 하는지가 엔진에 따라 달라집니다.

복제본끼리 같은 난수가 나왔습니다

위 로그에서 두 복원 모두 Random.nextInt가 234였습니다. 체크포인트 전에 만든 java.util.Random 객체의 내부 상태가 이미지에 같이 저장됐기 때문입니다. 이 이미지로 파드 열 개를 띄우면 열 개가 같은 순서의 「난수」를 냅니다. 반면 SecureRandom과 UUID는 복원마다 값이 달랐습니다. openjdk/crac 소스를 보면 JDK가 SecureRandom은 복원 뒤에 다시 시드하지만 Random·ThreadLocalRandom·SplittableRandom은 따로 처리하지 않습니다.

더 조심할 것은 체크포인트 전에 이미 만들어 둔 값입니다. 인스턴스 ID로 쓰려고 시작할 때 만든 UUID, 캐시해 둔 토큰, 시작 시각 같은 값은 모든 복제본에 똑같이 들어갑니다. 이런 값은 afterRestore에서 다시 만들어야 합니다.

열린 소켓이 있으면 체크포인트가 거부됩니다

8080 포트를 연 채로 체크포인트를 부르면 이미지를 만들지 않고 예외가 납니다.

Exception in thread "main" jdk.crac.CheckpointException
	Suppressed: jdk.internal.crac.mirror.impl.CheckpointOpenSocketException: Socket[addr=0.0.0.0/0.0.0.0,port=0,localport=8080]

그래서 Resource를 등록해 저장 직전에 닫고 복원 직후에 다시 열게 했는데, 처음에는 그래도 같은 예외가 났습니다. beforeCheckpoint가 아예 불리지 않았습니다. 원인은 등록 방식이었습니다. 익명 클래스 객체를 만들어 register에 바로 넘겼는데, jdk.crac 패키지 문서에 Context는 등록된 Resource를 약한 참조로 들고 있다고 적혀 있습니다. 약한 참조(weak reference)는 다른 곳에서 그 객체를 잡고 있지 않으면 GC가 치워 버릴 수 있는 참조입니다. 워밍업 동안 GC가 29번 돌면서 제 Resource가 사라졌고, 세 번 돌려 세 번 모두 같은 예외가 났습니다.

static Resource HOOK; // Context 는 Resource 를 약하게 참조하므로 여기서 강하게 잡아 둔다

HOOK = new Resource() {
    @Override
    public void beforeCheckpoint(Context<? extends Resource> c) throws Exception {
        server.close();
    }

    @Override
    public void afterRestore(Context<? extends Resource> c) throws Exception {
        server = new ServerSocket(8080);
    }
};
Core.getGlobalContext().register(HOOK);

static 필드에 담아 강하게 잡아 두자 beforeCheckpoint: closed 8080 → Checkpoint successful! → 복원 뒤 afterRestore: reopened 8080 순서로 동작했습니다. Resource를 직접 구현한다면 그 객체가 애플리케이션 수명 동안 다른 곳에서 참조되고 있는지부터 확인해야 합니다. 짧은 예제에서는 GC가 안 돌아 우연히 통과할 수도 있습니다.

비밀값은 이미지에 평문으로 남습니다

환경 변수 DB_PASSWORD를 읽어 static 필드에 둔 채 체크포인트를 찍고 이미지 파일을 grep했더니 그 문자열이 3번 나왔습니다. 환경 변수 없이 복원해도 복원된 프로세스의 메모리에는 그 값이 그대로 있습니다. Spring 문서도 환경에서 온 설정값을 포함해 JVM이 「본」 값은 모두 CRaC 파일에 저장된다고 가정하라고 적었습니다. 체크포인트 이미지를 컨테이너 이미지에 넣어 레지스트리(컨테이너 이미지 저장소)에 올린다면 그 레지스트리에 접근할 수 있는 사람은 비밀번호도 읽을 수 있습니다. 비밀값은 체크포인트 전에 읽지 않고 afterRestore에서 읽게 하는 편이 안전합니다.

이미지는 살아 있는 힙보다 컸습니다

난수로 채운 바이트 배열을 붙잡아 두고 이미지 크기를 쟀습니다.

살아 있는 데이터   core.img     복원 시간
없음(예제만)       32MB         63ms
100MB              238MiB       80ms
400MB              845MiB       100ms

이미지는 붙잡아 둔 데이터의 2배 남짓이었습니다. 왜 2배인지는 확인하지 못했습니다. 이미지 크기는 힙 설정(-Xmx)이 아니라 프로세스가 실제로 쓰던 메모리를 따릅니다. OpenJDK 이슈 JDK-8321660에 적힌 크기는 HelloWorld 약 32MB, Spring PetClinic 약 209MB이고, 제 예제의 32MB도 HelloWorld와 같은 수준이었습니다. 그래서 이미지가 늘 수 GB가 되지는 않지만, 실제 서비스라면 힙에 올라와 있는 캐시만큼 이미지가 커지고, 그만큼 레지스트리 용량과 이미지 받는 시간이 늘어난다고 보면 됩니다.

원문의 장애: 같은 인스턴스 유형인데 CPU가 달랐습니다

원문 팀은 적용 뒤 여러 파드가 같은 날 이 로그를 남기며 뜨지 못하는 장애를 겪었습니다(원문 로그에서 일부 줄만 옮겼습니다).

warp: error: Image constraint 'cpu.features' (bitmap subset) does not match:
warp: error: Required : f7 fb fd 05 18 4e e1 00 e6 0f 00 00 00 00 00 00
warp: error: Image has : f7 fb fd 9d 1b 4e e1 00 e6 0f 00 00 00 00 00 00
[crac] Restore failed due to incompatible or missing CPU features.
Error: Could not create the Java Virtual Machine.

JIT는 체크포인트를 찍은 머신의 CPU가 지원하는 확장 명령어를 써서 기계어를 만듭니다. 그 명령어가 없는 CPU에서 복원하면 요청을 처리하다가 잘못된 명령어로 죽을 수 있으므로, CRaC는 복원 전에 CPU 기능 목록을 비교해 미리 실패합니다. 원문 팀은 CRaC를 쓰지 않던 이전 이미지로 먼저 롤백해 장애를 막고 원인은 그 뒤에 찾았습니다. AWS의 같은 인스턴스 유형도 여러 하드웨어 세대에 걸쳐 있고, 동적으로 노드를 고르는 오토스케일러가 서로 다른 세대를 섞어 놓았던 것입니다. 해결은 체크포인트를 찍을 때 기준 CPU 기능 집합을 환경 변수로 고정하는 것이었습니다. 원문은 변수 이름을 밝히지 않았습니다.

CRaC 소스와 Azul 문서에서 이에 해당하는 옵션은 체크포인트 쪽의 -XX:CPUFeatures입니다. 기본값 native는 현재 CPU의 기능을 모두 쓰고, generic은 오래된 CPU에도 있는 기본 기능만 씁니다. 여러 머신에서 -XX:+ShowCPUFeatures로 나온 값을 비트 AND해서 넣는 방법도 문서에 있습니다. 복원 쪽에서는 -XX:CRaCIgnoreRestoreIfUnavailable을 주면 이미지를 쓸 수 없을 때 실패하는 대신 보통 부팅으로 넘어갑니다. 느려지더라도 파드가 뜨지 못하는 것보다는 낫습니다.

제 Mac에서는 이 부분을 확인하기 어려웠습니다. aarch64 빌드는 -XX:+ShowCPUFeatures에 「this architecture does not support any arch-specific strings」라고만 답했습니다. 같은 이미지를 x86_64 에뮬레이션으로 돌리면 기본값은 0x21021801ddfbd7,0x9cc, generic을 주면 0x200000080d7,0x0으로 쓰는 기능이 확 줄어드는 것까지는 보였습니다.

도입 전에 확인할 것

원문과 실측을 합쳐 도입 전에 확인할 항목을 순서대로 적으면 다음과 같습니다.

  1. 쓰는 JDK가 CRaC 빌드인지(Zulu·Liberica), 엔진이 무엇이고 CI에서 그 엔진에 필요한 권한을 줄 수 있는지
  2. 체크포인트 시점에 열려 있는 소켓·파일이 없는지. 프레임워크와 라이브러리(커넥션 풀, HTTP 클라이언트, 메시지 큐 클라이언트)가 CRaC를 지원하는지
  3. 직접 만든 Resource가 static 필드나 빈처럼 수명이 긴 곳에 잡혀 있는지
  4. 체크포인트 전에 만든 난수 생성기, 인스턴스 ID, 토큰, 비밀값을 afterRestore에서 다시 만드는지
  5. 이미지 저장소에 누가 접근할 수 있는지
  6. 노드 그룹의 CPU 세대가 섞일 수 있는지. 섞인다면 -XX:CPUFeatures로 기준을 고정하고, 복원 실패 시 보통 부팅으로 넘어가게 했는지
  7. CRaC 없는 이미지로 바로 롤백할 수 있는지

다른 선택지: AOT 캐시

같은 문제를 푸는 표준 쪽 선택지로 Project Leyden의 AOT 캐시가 있습니다. JDK 24의 JEP 483은 한 번 돌린 기록으로 클래스를 미리 읽고 링크해 두는 캐시를 만들고, JEP 문서 기준 PetClinic 시작이 4.486초에서 2.604초로 줄었습니다. JDK 25의 JEP 515는 메서드 실행 프로필까지 저장해 워밍업을 줄입니다. CRaC처럼 몇십 밀리초로 줄이지는 못합니다. 대신 실행 중인 애플리케이션의 메모리를 얼리지 않으므로 이 글에서 다룬 난수·비밀값·열린 소켓을 따로 챙길 일이 없고, 별도 배포판 없이 일반 OpenJDK에 들어 있습니다.

확인하지 못한 것

실습 환경

원문: Pulkit Garg, 「JVM Startup Time Story: From 330 Seconds to 3」, Engineering @ Housing/Proptiger/Makaan(Medium), 2026-11-03. GeekNews 소개: JVM 시작 시간, 330초에서 3초로 줄이기. 원문은 요약해서 옮겼고 에러 로그만 그대로 인용했습니다. 확인한 문서: openjdk/crac 소스, docs.azul.com의 CRaC 엔진·CPU 기능 문서, Spring Framework 「JVM Checkpoint Restore」, criu.org, OpenJDK JEP 483·515, JDK-8321660.