
İşlemci Bağlam Değişimi, L1/L2 Önbellek Kaybı ve Ölçüm Metotları
İstemsiz bağlam geçişi maliyetleri, L1 ve L2 önbellek kirlenmesi, TLB boşaltma yükü ve çok iş parçacıklı sistemlerde aşırı thread açmanın felç edici etkisi.
"Daha fazla eşzamanlılık için iş parçacığı (thread) sayısını artıralım" yaklaşımı, çok iş parçacıklı yazılım mimarilerinde en sık düşülen tuzaklardan biridir. Geliştiriciler 8 çekirdekli bir sunucuda 2000 iş parçacığı açtıklarında sistemin hızlanacağını varsayar. Ancak pratikte sistem çöker, CPU kullanımı yüzde 100 görünmesine rağmen saniyede tamamlanan iş miktarı (throughput) dip yapar.
Bu felaketin arkasında yatan temel mekanizma, işlemcinin iş parçacıkları arasında geçiş yaparken ödediği bağlam değişimi (context switch) ve buna bağlı önbellek kaybıdır (cache thrashing). Bu yazıda CPU bağlam değişiminin L1/L2 donanım önbellekleri üzerindeki yıkıcı etkilerini, TLB boşaltmalarını ve Linux perf ile nasıl ölçüldüğünü inceliyoruz.
Bağlam Değişimi ve Donanım Önbellek Kirlenmesi:
Zaman: T0 (Thread A Çalışıyor)
+───────────────────────────────────────────────────────────────+
| CPU Çekirdeği: L1d Önbellek (Sıcak - Cache Hot) |
| [Thread A Verileri: Matrisler, Yığın, Değişkenler] |
+───────────────────────────────────────────────────────────────+
│
İstemsiz Bağlam Değişimi
(Zaman Dilimi Bitti / Preemption)
▼
Zaman: T1 (Thread B Çalışmaya Başladı)
+───────────────────────────────────────────────────────────────+
| CPU Çekirdeği: L1d Önbellek Kirleniyor (Cache Pollution) |
| [Thread B Kendi Verilerini Bellekten Çekiyor - Cache Miss] |
+───────────────────────────────────────────────────────────────+
│
Thread A Tekrar Çağrıldı
▼
Zaman: T2 (Thread A Yeniden Başladı - Cache Cold!)
+───────────────────────────────────────────────────────────────+
| Önbellekteki Eski Veriler Silinmiş! |
| Her Veri Erişimi DRAM'e Gidiyor (Yüzlerce Döngü Ceza) |
+───────────────────────────────────────────────────────────────+
1. Gönüllü vs İstemsiz Bağlam Değişimi
Linux çekirdeğinde iki tür bağlam değişimi gerçekleşir:
- Gönüllü Bağlam Değişimi (Voluntary Context Switch): İş parçacığı kendi isteğiyle CPU'yu bırakır. Örneğin diskten dosya okumak (
read), ağdan paket beklemek (recv), kilit beklemek (pthread_mutex_lock) veya uyumak (nanosleep) için bloklandığında oluşur. - İstemsiz Bağlam Değişimi (Involuntary / Non-voluntary Context Switch): Süreç hala çalışmak istemektedir ancak çekirdeğin Linux CFS Zamanlayıcı veya Linux 6.6 EEVDF Zamanlayıcısı mekanizması sürecin zaman dilimini (slice) bitirmiş ya da daha yüksek öncelikli bir süreç uyandığı için zorla CPU'dan indirmiştir (preemption).
Bir sürecin bu sayaçlarını /proc/[pid]/status üzerinden okuyabilirsiniz:
grep -E "voluntary_ctxt_switches|nonvoluntary_ctxt_switches" /proc/$$/status
Çıktı:
voluntary_ctxt_switches: 12480
nonvoluntary_ctxt_switches: 8914
Eğer nonvoluntary_ctxt_switches sayısı yüksekse, sisteminizde işlemci çekişmesi (CPU contention) yaşanıyor ve iş parçacıkları işlerini bitiremeden sürekli birbirlerini ezerek CPU'dan indiriliyor demektir.
2. Görünmeyen Maliyet: L1/L2 Önbellek Kaybı (Cache Pollution)
Bir bağlam değişiminin doğrudan maliyeti (CPU kayıtlarını kaydetmek, çekirdek yığınına geçmek, yeni sürecin kayıtlarını yüklemek) yaklaşık 1 ile 2 mikrosaniyedir.
En büyük dolaylı maliyet önbellek soğuması (cache coldness) sürecinde ortaya çıkar.
- L1d (Veri) ve L1i (Komut) Önbellekleri: Her çekirdeğin kendine ait 32 KB ile 48 KB boyutunda küçük ama hızlı (yaklaşık 1 ns erişim süresi) önbelleği vardır.
- L2 Önbellek: Çekirdek başına 512 KB ile 1 MB arasındadır (yaklaşık 3-4 ns).
- DRAM Erişimi: 50 ile 80 nanosaniye sürer.
Thread A çalışırken işlediği veriler ve kod blokları L1 önbelleğine dolar. Buna "sıcak önbellek" (cache hot) denir. CPU veriye 1 nanosaniyede ulaşır.
Ancak araya Thread B girdiğinde Thread B kendi verilerini bellekten çeker ve Thread A'nın verilerini önbellekten atar (cache eviction). Thread A birkaç milisaniye sonra tekrar CPU'ya döndüğünde önbellek tamamen soğumuştur (cache cold). Thread A'nın yaptığı her bellek okuması L1 ve L2'yi ıskalayarak doğrudan DRAM'e gitmek zorunda kalır. CPU, saat döngülerinin yüzde 70'ini veri bekleyerek (stalled cycles) boşta geçirir.
3. Donanımsal Çözüm: PCID (Process-Context Identifiers)
Farklı iki süreç arasında geçiş yapıldığında daha da büyük bir felaket yaşanır: Sanal bellek adres uzayı değiştiği için işlemci Translation Lookaside Buffer (TLB) önbelleğini tamamen sıfırlamak (flush) zorunda kalırdı.
Intel Westmere ve sonrasındaki x86_64 işlemciler bu sorunu hafifletmek için Donanımsal Süreç Bağlam Tanımlayıcısı (Process-Context Identifiers - PCID) desteğini getirdi.
- CR3 kaydının alt 12 biti her sürece özel bir PCID etiketi olarak kullanılır (0-4095).
- TLB girişleri bu etiketle damgalanır.
- Başka bir sürece geçildiğinde CR3 değişse bile eski sürecin TLB girişleri silinmez.
- Süreç geri döndüğünde TLB önbelleği hala geçerlidir.
Sisteminizde PCID desteğinin aktif olup olmadığını şu komutla doğrulayabilirsiniz:
grep -o "pcid" /proc/cpuinfo | head -n 1
4. perf ile Bağlam Değişimi ve Önbellek Iska Ölçümü
Linux perf aracı donanımsal Performans İzleme Birimi (PMU) sayaçlarını okuyarak bağlam değişimlerinin önbellek üzerindeki tahribatını net olarak ortaya koyar.
Belirli bir uygulamanın bağlam değişimi ve önbellek ıskalama oranını ölçmek için:
sudo perf stat -e context-switches,cpu-migrations,page-faults,cycles,instructions,cache-references,cache-misses,L1-dcache-load-misses -p <PID> -- sleep 5
Örnek bir darboğaz çıktısı:
Performance counter stats for process id '4120':
482,109 context-switches # 96.421 K/sec
4,812 cpu-migrations # 962 /sec
1,980,140,210 cycles # 0.396 GHz
841,200,194 instructions # 0.42 insn per cycle
128,401,902 cache-references # 25.680 M/sec
74,192,044 cache-misses # 57.78% of all L1D hits
198,400,120 L1-dcache-load-misses
5.001920194 seconds time elapsed
Buradaki iki kritik kırmızı bayrak şunlardır:
context-switches: Saniyede 96.000 bağlam değişimi. CPU iş yapmak yerine sadece iş parçacığı değiştirmektedir.instructions per cycle (IPC): 0.42. Modern bir CPU döngü başına 2-3 komut işleyebilecekken, önbellek ıskaları yüzünden döngü başına 0.42 komuta düşmüştür.
5. Aşırı Thread Tuzağından Kaçınma Stratejisi
Üretim ortamlarında bu felaketi engellemek için şu mimari kurallar uygulanmalıdır:
- CPU Odaklı İş Yüklerinde İş Parçacığı Sayısını Sabitleyin: Hesaplama yoğun (CPU-bound) görevlerde iş parçacığı sayısını fiziksel CPU çekirdek sayısına (
N) veya en fazla çekirdek sayısı + 1'e eşitleyin. - I/O Yoğun İş Yüklerinde Olay Tabanlı Motorlar Kullanın: 10.000 eşzamanlı soket bağlantısını 10.000 thread ile yönetmeye çalışmak yerine
epollveyaio_uringtabanlı asenkron modeller tercih edilmelidir. - CPU Yakınlığı (CPU Affinity / pinning): Kritik süreçleri belirli çekirdeklere bağlayarak (
taskset -c 0,1veyapthread_setaffinity_np) iş parçacıklarının farklı çekirdekler arasında gezinmesini (cpu-migrations) önleyin. Böylece L1/L2 önbellek sıcaklığı korunur.
Bu tedbirler, aşırı iş parçacığı açmanın yarattığı yapay darboğazları ortadan kaldırarak donanımın gerçek hesaplama kapasitesini ortaya çıkarır.
Yazıyı Değerlendir
0 tepkiFikirlerinizi tek tıkla paylaşarak geri bildirim bırakın.
Ali Purtaş
@alipurtas • Hey, This is Ali!
Kendi halinde yazılım geliştiren bir öğrenci. Sistemler kuruyor, deniyor, bozuyor ve öğrendiği gerçek çözümleri burada belgeliyor.
Konu Kümesi & Önerilen Yazılar
copy_file_range ile Blok Katmanında Reflink Tabanlı Dosya Klonlama
copy_file_range sistem çağrısı, Btrfs ve XFS reflink mekanizması, blok seviyesinde anlık dosya klonlama ve gigabaytlarca veriyi kopyalamadan çoğaltma rehberi.
Linux sendfile ve splice Çağrılarıyla Çekirdek İçi Veri Aktarımı
Geleneksel G/Ç kopyalama maliyetleri, sendfile ve splice sistem çağrıları, boru tamponları üzerinden kullanıcı alanına inmeden sokete veri aktarma mimarisi.
Bellek Bariyerleri: x86 TSO ile ARM Zayıf Bellek Düzeni Farkları
x86 TSO modeli ile ARM gevşek bellek mimarisi karşılaştırması, hafıza bariyeri komutları ve lock-free kodların Graviton işlemcilerde çökme nedenleri analizi.
Tartışma & Yorumlar
0Tartışmaya katılmak ve soru sormak için oturum açmalısınız.
Giriş Yap