Bir Spring Boot uygulaması Kubernetes’te çalışıyor.
Container bellek limiti 1 GB. Heap’i de 1 GB olarak ayarlıyorsunuz:
-Xmx1g
Uygulama bir süre çalışıyor. Sonra pod yeniden başlıyor.
Reason: OOMKilled
Exit Code: 137
Log’larda OutOfMemoryError yok. Heap kullanımı yüzde 70 civarında görünüyor.
Ama container yine de öldürülmüş.
JVM sadece heap’ten ibaret değil
-Xmx sadece Java heap’inin üst sınırını belirler. JVM’in kullandığı toplam bellek bundan fazladır.
Metaspace: Yüklenen sınıfların meta bilgileri. Spring Boot uygulamalarında genellikle 100 MB’ı rahatlıkla geçer.
Thread stack’leri: Her platform thread’i için varsayılan olarak 1 MB’a kadar. 200 thread, 200 MB’a kadar stack demek.
Code cache: JIT derleyicinin ürettiği native kod.
Direct memory: Netty gibi kütüphanelerin heap dışında ayırdığı buffer’lar.
GC yapıları: Garbage collector’ın kendi veri yapıları.
Heap 1 GB’a ulaşmadan bile, bunların toplamı container limitini aşar. Linux kernel container’ı öldürür. JVM’in bundan haberi olmaz, bir OutOfMemoryError fırlatma fırsatı bile bulamaz.
MaxRAMPercentage
Modern JVM’ler container’ın bellek limitini algılar. Java 10’dan itibaren bu destek varsayılan olarak açık.
Sabit bir -Xmx yerine, heap’i container limitinin bir yüzdesi olarak tanımlamak daha esnek:
-XX:MaxRAMPercentage=65
Container limiti 1 GB ise heap en fazla yaklaşık 650 MB olur. Kalan alan heap dışı kullanım için bırakılır.
Varsayılan değer yüzde 25. Container’da tek bir uygulama çalıştığı için bu değer genellikle çok düşük kalıyor ve belleğin büyük kısmı kullanılmıyor.
Hangi yüzdenin doğru olduğu uygulamaya bağlı. Yüzde 60-75 arası çoğu Spring Boot uygulaması için makul bir başlangıç. Ama ölçmeden karar vermemek gerekiyor.
Ölçmek
JVM’in Native Memory Tracking özelliği, belleğin nereye gittiğini gösterir:
-XX:NativeMemoryTracking=summary
jcmd <pid> VM.native_memory summary
Heap, metaspace, thread, code cache ve diğer alanların ayrı ayrı ne kadar bellek kullandığı görülür. Container limitini belirlerken bu çıktı tahmin yerine gerçek veri sağlar.
Container seviyesinde ise RSS, yani gerçekte kullanılan fiziksel bellek izlenmeli. Heap metrikleri tek başına yanıltıcıdır.
Request ve limit
Kubernetes’te bellek için request ve limit değerleri ayrı tanımlanır.
Request, pod’un planlanması için garanti edilen bellek. Limit ise aşıldığında container’ın öldürüldüğü sınır.
JVM uygulamaları için bu iki değeri eşit tutmak genellikle daha öngörülebilir sonuç veriyor. JVM heap’i büyüdükçe belleği geri vermekte isteksizdir. Request’ten fazla bellek kullanan bir pod, node üzerinde bellek baskısı oluştuğunda ilk tahliye edilecekler arasındadır.
Thread sayısı da bellek
Tomcat’in varsayılan 200 thread’lik havuzu, her biri kendi stack’iyle birlikte ciddi bir bellek ayırır. Gereksiz yüksek thread havuzları, connection pool’lar ve executor’lar bellek bütçesini sessizce tüketir.
Virtual thread’ler bu açıdan önemli bir fark yaratıyor. Stack’leri heap üzerinde ve ihtiyaç kadar büyüyor. Binlerce eşzamanlı işlem, platform thread’lerinin bellek maliyeti olmadan yürütülebiliyor.
Container’da Java çalıştırmak artık eskisi kadar zor değil. JVM container’ları tanıyor.
Ama container limitinin heap limitiyle aynı şey olmadığını bilmek, gece yarısı gelen OOMKilled alarmlarının büyük kısmını önlüyor.
