JVM, CPU và RAM — toàn tập

Tài liệu học về cách JVM dùng CPU và RAM khi chạy trong container, và cách nhận ra mặt từng sự cố trên dashboard.

Mười trang theo thứ tự dạy học, đọc lần lượt từ đầu: khái niệm nền (1–4) → vì sao số pod Java tự nhân lên mà chẳng liên quan tới tải (5) → giả lập 21 sự cố (6) → tra cứu khi pod chết (7–8) → đặt request và limit cho CPU và RAM (9–10).

Số liệu minh hoạ lấy từ một service Spring Boot thật đang chạy production, nên các con số là mức bạn sẽ gặp ngoài thực tế chứ không phải ví dụ cho tròn số. Phần mô phỏng ở trang 6 tính CPU, throttle, heap, GC và RAM ngoài heap tác động lẫn nhau theo đúng thứ tự nguyên nhân - kết quả thật, nên mỗi sự cố hiện ra giống như dashboard trên Grafana.

JVM là cái gì, và nó làm gì với code của bạn

Java không chạy trực tiếp trên CPU. Giữa code và CPU có một lớp trung gian tên là JVM (Java Virtual Machine). Hiểu lớp trung gian này làm gì thì mới hiểu vì sao nó cần nhiều RAM.

Một câu để nhớ: JVM là một cái máy đọc bytecode, vừa chạy vừa tự tối ưu, và tự dọn rác bộ nhớ hộ bạn. Ba việc đó — chạy, tối ưu, dọn rác — mỗi việc đều cần chỗ chứa riêng trong RAM.

Hành trình từ file .java tới CPU

Bấm vào từng bước để xem nó dùng vùng RAM nào.

Vì sao một ứng dụng Java tốn nhiều RAM hơn bạn tưởng

Ứng dụng của bạn chỉ chiếm một phần. JVM còn phải chứa các thứ phục vụ cho ba việc ở trên:

Việc JVM làmPhải chứa gì trong RAMTên vùng nhớ
Giữ dữ liệu ứng dụngMọi object bạn new ra: entity, DTO, chuỗi, danh sách, cacheHeap
Biết các class có gìTên class, danh sách method, chữ ký, annotation. Spring sinh thêm nhiều class proxy nên vùng này phình theo frameworkMetaspace
Chạy nhanhMã máy mà JIT đã dịch từ bytecode của những đoạn code chạy nhiềuCodeCache
Đọc ghi mạng, fileBộ đệm nằm ngoài heap để khỏi phải copy dữ liệu. Netty, Kafka client, NIO dùng cái nàyDirect buffer
Chạy nhiều luồngMỗi thread một stack riêng, mặc định khoảng 1 MB. 200 thread là 200 MBNative (thread stack)
Dọn rácGC cần bảng ghi chép riêng để biết object nào đang được ai tham chiếuNative (GC structures)
Đây chính là lý do đặt -Xmx2048M mà pod lại chiếm 2,3–2,7 GiB. -Xmx chỉ giới hạn dòng đầu tiên của bảng trên. Năm dòng còn lại nằm ngoài tầm với của -Xmx, và chúng cộng thêm khoảng 650 MB nữa. Trang 2 bóc tách con số đó.