Yapay Zekalı, Çipli Bellek: Samsung HBM-PIM

Bugün kullandığımız bilgisayarlar, Neumann mimarisi kullanır ve ilk olarak 1945'te John Von Neumann ve ekibi tarafından çalışma metodolojisi tasarlanarak bir devrim yapmışlardı.

Neumann mimarisini basit olarak, Kontrol Birimi(Control Unit), Aritmetik ve Mantık Birimi(Arithmetic and Logic Unit), Bellek Birimi(Memory Unit), Kayıtlar ve Giriş-Çıkışlar(Registers/Inputs-Outputs) olarak tanımlayabiliriz.

Harvard mimarisi birçok avantajı olsa da, Neumann mimarisi kadar yaygın değildir. Neumann mimarisi, komut verilerinin ve program verilerinin aynı bellekte depolandığı depolanmış program bilgisayar kavramından oluşmaktadır.

Neumann mimarisinde, bottleneck ya da darboğaz olarak tanımlanan, bir soruna neden olması gibi performans darboğazları, başka şekilde işlevsel olan bir bilgisayarın veya sunucunun yavaşlamasına neden olan durumdur. Samsung, yeni HBM2 tabanlı belleği, verileri ya da dataları direk belleğin içine atarak, bu sorunu iyileştirdiğini iddia ediyor.

Samsung, HBM2 tabanlı akıllı belleğinin, işlemcinin saniyede 1 trilyon kayan nokta hesaplama yeteneğini ifade eden, Teraflops olarak tanımladığımız çok iddialı olarak 1.2 TFLOPS gömülü bilgi işlem gücünü dışarı çıkarabildiğini ve bellek yongasının merkezi işlem birimi(CPU), grafik işlemci(GPU), tümleşik devreler diyebileceğimiz ASIC'ler için, ayrılmış işlemleri yapan entegre bir Yapay zekalı işlemcisi PIM ya da Processing in Memory adını verdiği, bellekte işlemciyle, yeni bir teknolojisini resmi sitesinde ve online olarak global olarak duyurdu.

Resmi olarak Samsung, bellek çekirdeğine programlanabilir hesaplama birimi(PCU) adı verilen bir Yapay zeka(AI) motorunu entegre ederek bazı mantık işlevlerini işleyebilir olarak global piyasaya yazmışlar.

Samsung PIM nasıl çalışıyor?

PIM ya da bellekte işleme yongaları, her bellek bankasının içine bir Yapay zeka motoru entegre etmiş, böylece High Bandwidth Memory veya HBM'nin yüksek geniş bant genişliğine aktarıp işlem yapıyor.

PIM, güç tüketimi ve daha hızlı gerçek hesaplama işlemleriyle, bellek ve işlemciler arasında veri taşıma yükünü bottleneck ya da darboğaz sorunlarının ötesinde, yapabileceğini açıklamış ve böyle bir şeyi gerçekten de başardılarsa bu bir devrimdir diyebilirim.

Samsung, PIM ile enerji tüketimini %70'ten fazla azaltırken 2 kat daha fazla sistem performansı sağlayabileceğini söylemiş.

Samsung, en çok bilgi işlemcileri sevindirecek, yeni belleğin herhangi bir yazılım veya donanım değişikliği gerektirmeden ve böylece, büyük bilgi işlem trafiğinin ve yeni Yapay zekalı çipli belleğin entegrasyonu konusunda, hızlı bir yapılandırma ve güncelleme olacağını da söylemiş. Bu donanımsal değişiklik, bilgi işlem birimleri için süreklilik ve entegrasyon için harika bir gelişme diyebilirim.

PIM paylaşılan bilgilerde, her bellek bankasında kalıp başına toplam 32 Programmable Compute Unit/PCU/Programlanabilir Hesaplama Birimi olmak üzere 300 MHz'de çalışan yerleşik ya da içinde entegre programlanabilir hesaplama biriminden oluştuğunu açıklamışlar.

Bu birimler, Dynamic Random Access Memory ya da D-RAM içinde işlemleri etkinleştirmek için ana bilgisayardan gelen, klasik bellek komutlarıyla kontrol ediliyor ve çeşitli FP16 ya da 16 bit kayan nokta hesaplamalarını yürütebilecek, Bellek ayrıca standart modda da çalışabilir, yani normal HBM2 olarak.

İşlevsel Bellek(FIMDRAM) olarak tanımlayan, bellek bankaları içinde 16 genişlikte tek talimat çoklu veri motorunu entegre eden ve kapalıya göre 4 kat daha yüksek işlem bant genişliği sağlamak için banka düzeyinde paralellikten yararlanan İşlevsel Bellek DRAM (FIMDRAM) olarak tanımladığı ve 20 nonometrelik çip ile yeni bir teknoloji geliştirilmiş Samsung tarafından.

Yapay zekalı çip entegreli bu yeni HBM2 tabanlı akıllı bellek, bilgi işlem birimleri için, Neumann mimarisindeki darboğaz sorunlarını çözebilir(bottleneck), düşük enerji tüketimiyle, daha hızlı veri akışını sağlayıp daha hızlı kamu hizmetleri ve bilgi işlem verilerinin daha hızlı işlemesine, daha hızlı ekonomik üretime katkı sağlayabilir.

Yapay zeka Algoritmaları, verileri daha nitelikli, daha az hatalı ve daha hızlı iletilmesi konusunda da ve performans kayıplarının önüne geçebilir ve veri merkezlerinin işlerini kolaylaştırabilir.

Şimdilik bilgi işlem merkezleri için kullanılsa da, ilerde Samsung bu yeni patentli teknolojisini son tüketiciye ulaştırabilir.

Samsung bu konuları seven bir şirket ve bu daha hızlı kişisel bilgisayarlar demek ve daha hızlı oyun grafik işlemcileri anlamına gelir. Ama bunun için, birkaç yıl geçmesi gerekir diye düşünüyorum, biraz profesyonel kullanıcılarda ve cihazlarda deneyimleme yapılacak gibi.

Samsung ama, yeni PIM ya da Processing in Memory adını verdiği, Yapay zekalı bellekte işlemciyle devrim oluşturmuş diyebilirim.

HBM yongalarının, tipik olarak kolay soğutmaya tam olarak elverişli olmayan yapısına, HBM-PIM nasıl bir fonksiyon oluşturmuş bu kadar hızlı ve akıllı çipli belleğin nasıl bu konuyu çözdüğünü Samsung açıklamasa da, bunu veri işlem birimlerinden gelen deneyimlemelerle bilecek olsak da, dediğim gibi Samsung HBM-PIM yeni bir teknoloji müthiş bir olaydır.

• Klasik Fiziğin Ötesindeki Teknoloji: Kuantum Bilgisayarları!