IAli
Tüm Yazılar
İşlemci Bağlam Değişimi, L1/L2 Önbellek Kaybı ve Ölçüm Metotları

İşlemci Bağlam Değişimi, L1/L2 Önbellek Kaybı ve Ölçüm Metotları

İstemsiz bağlam geçişi maliyetleri, L1 ve L2 önbellek kirlenmesi, TLB boşaltma yükü ve çok iş parçacıklı sistemlerde aşırı thread açmanın felç edici etkisi.

"Daha fazla eşzamanlılık için iş parçacığı (thread) sayısını artıralım" yaklaşımı, çok iş parçacıklı yazılım mimarilerinde en sık düşülen tuzaklardan biridir. Geliştiriciler 8 çekirdekli bir sunucuda 2000 iş parçacığı açtıklarında sistemin hızlanacağını varsayar. Ancak pratikte sistem çöker, CPU kullanımı yüzde 100 görünmesine rağmen saniyede tamamlanan iş miktarı (throughput) dip yapar.

Bu felaketin arkasında yatan temel mekanizma, işlemcinin iş parçacıkları arasında geçiş yaparken ödediği bağlam değişimi (context switch) ve buna bağlı önbellek kaybıdır (cache thrashing). Bu yazıda CPU bağlam değişiminin L1/L2 donanım önbellekleri üzerindeki yıkıcı etkilerini, TLB boşaltmalarını ve Linux perf ile nasıl ölçüldüğünü inceliyoruz.

TEXT
Bağlam Değişimi ve Donanım Önbellek Kirlenmesi:

Zaman: T0 (Thread A Çalışıyor)
+───────────────────────────────────────────────────────────────+
| CPU Çekirdeği: L1d Önbellek (Sıcak - Cache Hot)               |
| [Thread A Verileri: Matrisler, Yığın, Değişkenler]            |
+───────────────────────────────────────────────────────────────+
                              │
                    İstemsiz Bağlam Değişimi
                    (Zaman Dilimi Bitti / Preemption)
                              ▼
Zaman: T1 (Thread B Çalışmaya Başladı)
+───────────────────────────────────────────────────────────────+
| CPU Çekirdeği: L1d Önbellek Kirleniyor (Cache Pollution)      |
| [Thread B Kendi Verilerini Bellekten Çekiyor - Cache Miss]    |
+───────────────────────────────────────────────────────────────+
                              │
                    Thread A Tekrar Çağrıldı
                              ▼
Zaman: T2 (Thread A Yeniden Başladı - Cache Cold!)
+───────────────────────────────────────────────────────────────+
| Önbellekteki Eski Veriler Silinmiş!                           |
| Her Veri Erişimi DRAM'e Gidiyor (Yüzlerce Döngü Ceza)        |
+───────────────────────────────────────────────────────────────+

1. Gönüllü vs İstemsiz Bağlam Değişimi

Linux çekirdeğinde iki tür bağlam değişimi gerçekleşir:

  1. Gönüllü Bağlam Değişimi (Voluntary Context Switch): İş parçacığı kendi isteğiyle CPU'yu bırakır. Örneğin diskten dosya okumak (read), ağdan paket beklemek (recv), kilit beklemek (pthread_mutex_lock) veya uyumak (nanosleep) için bloklandığında oluşur.
  2. İstemsiz Bağlam Değişimi (Involuntary / Non-voluntary Context Switch): Süreç hala çalışmak istemektedir ancak çekirdeğin Linux CFS Zamanlayıcı veya Linux 6.6 EEVDF Zamanlayıcısı mekanizması sürecin zaman dilimini (slice) bitirmiş ya da daha yüksek öncelikli bir süreç uyandığı için zorla CPU'dan indirmiştir (preemption).

Bir sürecin bu sayaçlarını /proc/[pid]/status üzerinden okuyabilirsiniz:

Bash
grep -E "voluntary_ctxt_switches|nonvoluntary_ctxt_switches" /proc/$$/status

Çıktı:

TEXT
voluntary_ctxt_switches:        12480
nonvoluntary_ctxt_switches:      8914

Eğer nonvoluntary_ctxt_switches sayısı yüksekse, sisteminizde işlemci çekişmesi (CPU contention) yaşanıyor ve iş parçacıkları işlerini bitiremeden sürekli birbirlerini ezerek CPU'dan indiriliyor demektir.

2. Görünmeyen Maliyet: L1/L2 Önbellek Kaybı (Cache Pollution)

Bir bağlam değişiminin doğrudan maliyeti (CPU kayıtlarını kaydetmek, çekirdek yığınına geçmek, yeni sürecin kayıtlarını yüklemek) yaklaşık 1 ile 2 mikrosaniyedir.

En büyük dolaylı maliyet önbellek soğuması (cache coldness) sürecinde ortaya çıkar.

  • L1d (Veri) ve L1i (Komut) Önbellekleri: Her çekirdeğin kendine ait 32 KB ile 48 KB boyutunda küçük ama hızlı (yaklaşık 1 ns erişim süresi) önbelleği vardır.
  • L2 Önbellek: Çekirdek başına 512 KB ile 1 MB arasındadır (yaklaşık 3-4 ns).
  • DRAM Erişimi: 50 ile 80 nanosaniye sürer.

Thread A çalışırken işlediği veriler ve kod blokları L1 önbelleğine dolar. Buna "sıcak önbellek" (cache hot) denir. CPU veriye 1 nanosaniyede ulaşır.

Ancak araya Thread B girdiğinde Thread B kendi verilerini bellekten çeker ve Thread A'nın verilerini önbellekten atar (cache eviction). Thread A birkaç milisaniye sonra tekrar CPU'ya döndüğünde önbellek tamamen soğumuştur (cache cold). Thread A'nın yaptığı her bellek okuması L1 ve L2'yi ıskalayarak doğrudan DRAM'e gitmek zorunda kalır. CPU, saat döngülerinin yüzde 70'ini veri bekleyerek (stalled cycles) boşta geçirir.

3. Donanımsal Çözüm: PCID (Process-Context Identifiers)

Farklı iki süreç arasında geçiş yapıldığında daha da büyük bir felaket yaşanır: Sanal bellek adres uzayı değiştiği için işlemci Translation Lookaside Buffer (TLB) önbelleğini tamamen sıfırlamak (flush) zorunda kalırdı.

Intel Westmere ve sonrasındaki x86_64 işlemciler bu sorunu hafifletmek için Donanımsal Süreç Bağlam Tanımlayıcısı (Process-Context Identifiers - PCID) desteğini getirdi.

  • CR3 kaydının alt 12 biti her sürece özel bir PCID etiketi olarak kullanılır (0-4095).
  • TLB girişleri bu etiketle damgalanır.
  • Başka bir sürece geçildiğinde CR3 değişse bile eski sürecin TLB girişleri silinmez.
  • Süreç geri döndüğünde TLB önbelleği hala geçerlidir.

Sisteminizde PCID desteğinin aktif olup olmadığını şu komutla doğrulayabilirsiniz:

Bash
grep -o "pcid" /proc/cpuinfo | head -n 1

4. perf ile Bağlam Değişimi ve Önbellek Iska Ölçümü

Linux perf aracı donanımsal Performans İzleme Birimi (PMU) sayaçlarını okuyarak bağlam değişimlerinin önbellek üzerindeki tahribatını net olarak ortaya koyar.

Belirli bir uygulamanın bağlam değişimi ve önbellek ıskalama oranını ölçmek için:

Bash
sudo perf stat -e context-switches,cpu-migrations,page-faults,cycles,instructions,cache-references,cache-misses,L1-dcache-load-misses -p <PID> -- sleep 5

Örnek bir darboğaz çıktısı:

TEXT
 Performance counter stats for process id '4120':

        482,109      context-switches          #    96.421 K/sec
          4,812      cpu-migrations            #       962 /sec
  1,980,140,210      cycles                    #     0.396 GHz
    841,200,194      instructions              #      0.42  insn per cycle
    128,401,902      cache-references          #    25.680 M/sec
     74,192,044      cache-misses              #    57.78% of all L1D hits
    198,400,120      L1-dcache-load-misses

       5.001920194 seconds time elapsed

Buradaki iki kritik kırmızı bayrak şunlardır:

  1. context-switches: Saniyede 96.000 bağlam değişimi. CPU iş yapmak yerine sadece iş parçacığı değiştirmektedir.
  2. instructions per cycle (IPC): 0.42. Modern bir CPU döngü başına 2-3 komut işleyebilecekken, önbellek ıskaları yüzünden döngü başına 0.42 komuta düşmüştür.

5. Aşırı Thread Tuzağından Kaçınma Stratejisi

Üretim ortamlarında bu felaketi engellemek için şu mimari kurallar uygulanmalıdır:

  1. CPU Odaklı İş Yüklerinde İş Parçacığı Sayısını Sabitleyin: Hesaplama yoğun (CPU-bound) görevlerde iş parçacığı sayısını fiziksel CPU çekirdek sayısına (N) veya en fazla çekirdek sayısı + 1'e eşitleyin.
  2. I/O Yoğun İş Yüklerinde Olay Tabanlı Motorlar Kullanın: 10.000 eşzamanlı soket bağlantısını 10.000 thread ile yönetmeye çalışmak yerine epoll veya io_uring tabanlı asenkron modeller tercih edilmelidir.
  3. CPU Yakınlığı (CPU Affinity / pinning): Kritik süreçleri belirli çekirdeklere bağlayarak (taskset -c 0,1 veya pthread_setaffinity_np) iş parçacıklarının farklı çekirdekler arasında gezinmesini (cpu-migrations) önleyin. Böylece L1/L2 önbellek sıcaklığı korunur.

Bu tedbirler, aşırı iş parçacığı açmanın yarattığı yapay darboğazları ortadan kaldırarak donanımın gerçek hesaplama kapasitesini ortaya çıkarır.

Yazıyı Değerlendir

0 tepki

Fikirlerinizi tek tıkla paylaşarak geri bildirim bırakın.

Bu teknik notu çevrenizle paylaşın

Ali Purtaş

@alipurtas • Hey, This is Ali!

İletişime Geç

Kendi halinde yazılım geliştiren bir öğrenci. Sistemler kuruyor, deniyor, bozuyor ve öğrendiği gerçek çözümleri burada belgeliyor.

Konu Kümesi & Önerilen Yazılar

İç Bağlantılı Mimari
Yorumlar yükleniyor...