Toplam 1,15 milyar nörona sahip Hala Point sistemi, her biri bir milyon nöronu simüle edebilen 1152 Loihi 2 işlemci barındırıyor. 2021’in sonlarında tanıtılan Loihi 2 nöromorfik çipi, Intel 4 süreci üzerine inşa ediliyor ve her bir çip 2,3 milyar transistörü içeriyor. Bu transistörler ise yalnızca 31mm2 alana sığdırılıyor. Hala Point sistemi, yalnızca 6 raf ünitesi alan yahut yalnızca bir mikrodalga fırın boyutunda. Sistemin güç tüketimi de kendisine nazaran küçük: 2,6 kW.
Hala Point, Sandia’da Intel’in birinci jenerasyon Loihi çiplerine dayanan eski bir Intel nöromorfik sistemi olan Pohoiki Springs’in yerini alırken on kat daha fazla nöron ve genel olarak 12 kat daha fazla performans sunacak.
Hala Point ne yapıyor?
Hala Point, klasik derin hudut ağlarını çalıştırırken watt başına saniyede 15 trilyon 8 bit işlemi (TOPS/W) aşan bir verimlilikle saniyede 20 katrilyon süreci yahut 20 petaops’u destekleyebiliyor. Bu süreç gücü, grafik süreç üniteleri (GPU) ve merkezi süreç üniteleri (CPU) üzerine inşa edilen mimarilerin ulaştığı düzeylerle örtüşüyor.
Sandia Ulusal Laboratuvarları’ndaki araştırmacılar Hala Point’i gelişmiş beyin ölçeğinde bilgi süreç araştırmaları için kullanmayı planlıyor. Kuruluş, aygıt fiziği, bilgisayar mimarisi, bilgisayar bilimi ve bilişim alanlarındaki bilimsel hesaplama problemlerini çözmeye odaklanacak. Bununla birlikte sistemin en enteresan kullanım durumu, hudut ağlarının anında ek bilgilerle güçlendirilmesini sağlamak için nöromorfik hesaplamayı kullanabilme potansiyeli. Bilindiği üzere mevcut LLM’ler yani ChatGPT ve Gemini üzere yapay zekalara güç veren modeller yeni datalarla birlikte daima olarak “yeniden” eğitiliyorlar. Bu da haliyle yüksek bir maliyet getiriyor. Hala Point ise sistemin yine eğitilme gereksinimini ortadan kaldırmayı amaçlıyor. Bunu bir kitabın sonuna bir sayfa eklemek üzere düşünebilirsiniz.
Peki bu neden kıymetli?
Günümüzde yapay zeka modelleri için artık trilyonlarca parametrelerden bahsediyoruz. Bu da yapay zekada ürkütücü sürdürülebilirlik zorluklarını ortaya çıkararak donanım mimarisinin en alt düzeylerinde inovasyon muhtaçlığı doğurmuş durumda. Nöromorfik hesaplama, bilgi hareketini en aza indirmek için bellek ve hesaplamayı son derece detaylı paralellikle entegre eden sinirbilim içgörülerinden yararlanan temelde yeni bir yaklaşımı temsil ediyor. Lakin şu anda Hala Point, gelecekteki ticari sistemlerin yeteneklerini geliştirecek bir araştırma prototipi konumunda.
Halo Point’in detayları
Hala Point, Intel 4 süreç nodunda üretilen 1.152 Loihi 2 işlemciyi mikrodalga fırın büyüklüğünde altı raflı bir data merkezi kasasında paketliyor. Sistem, 140.544 nöromorfik süreç çekirdeği üzerine dağıtılmış 1,15 milyar nöron ve 128 milyar sinapsı desteklerken 2.6kW güç tüketiyor. Ayrıyeten yardımcı hesaplamalar için 2.300’den fazla gömülü x86 işlemcisi içeriyor. Hala Point sürece, bellek ve irtibat kanallarını paralelleştirilmiş bir yapıda birleştirerek saniyede toplam 16 petabayt (PB/s) bellek bant genişliği, 3,5 PB/s çekirdek içi bağlantı bant genişliği ve saniyede 5 terabayt (TB/s) çipler ortası bant genişliği sunuyor. Sistem saniyede 380 trilyondan fazla 8-bit sinaps ve 240 trilyondan fazla nöron süreci gerçekleştirebiliyor.
Bu sistem spiking hudut ağı modellerinde 1,15 milyar nöronluk tam kapasitesi ile bir insan beyninden 20 kat daha fazla sürat vadediyor. Hala Point sinirbilim modellemesi için tasarlanmamış olsa da, nöron kapasitesi kabaca bir baykuş beyninin korteksine muadil durumda. Intel’e nazaran Loihi tabanlı sistemler, klasik CPU ve GPU mimarilerinden 50 kat daha yüksek süratlerde 100 kat daha az güç kullanarak yapay zeka çıkarımı yapabilir ve optimizasyon sorunlarını çözebilir.
