Üretken yapay zeka, teknolojiyle etkileşimimizi ve iş yapma biçimimizi değiştiriyor. Lakin bu ilerlemeler, en yetenekli modelleri eğitmek ve bunları global bir kullanıcı nüfusuna etkileşimli olarak sunmak için her zamankinden daha fazla bilgi süreç gücü gerektiriyor. Google, bu bağlamda yıllardır yapay zekaya has özel donanımlar olan TPU‘lar (Tensor Processing Unit) geliştiriyor. Bunun son örneği ise Trillium oluyor.
Google Trillium duyuruldu
Altıncı jenerasyon Trillium TPU’lar, TPU v5e’ye kıyasla çip başına en yüksek işlem performansında etkileyici bir 4,7 kat artış elde ediyor. Google bunu kısmen çipin MXU ünitelerini (matrix-multiply units) genişleterek ve genel saat suratını artırarak başarmış üzere görünüyor. Yüksek Bant Genişlikli Bellek (HBM) kapasitesini ve bant genişliğini iki katına çıkardıklarını söyleyen Google, TPU v5e’ye nazaran çip ortası ara temas genişliğini de iki katına çıkardıklarının altını çiziyor. Daha da kıymetlisi Trillium, ultra büyük katıştırmaları işlemek için özel bir hızlandırıcı ola SparseCore‘a sahip. Bu, modellerin daha süratli eğitilmesini ve düşük gecikme sunmasını sağlıyor. Belirtilenlere nazaran Trillium işlemci, v5e’ye nazaran yüzde 67 daha fazla güç tasarrufu sağlıyor. Bu çipler 256 TPU’ya kadar ölçeklendirilebilecek.
“Google bu an için inşa edildi”
Google’ın ana şirketi Alphabet CEO’su Sundar Pichai, bölümün makine tahsili gücüne olan talebinin son altı yılda 1 milyon kat arttığını ve Google’ın bu an için inşa edildiğini, çünkü on yıldan uzun bir müddettir yapay zeka çiplerine öncülük ettiklerini söyledi.
Google Trillium TPU’lar temelinde yapay zeka bilgi merkezlerinde pazara hakim olan Nvidia’ya bir alternatif sunuyor. Bilindiği üzere Nvidia, bu pazarın yüzde 80’ine hakim ve geri kalan yüzde 20’nin büyük çoğunluğu da Google’ın TPU’larının çeşitli versiyonlarından oluşuyor. Google bu çipleri kendisi satmıyor bunun yerine bulut bilişim platformu aracılığıyla erişim kiralıyor. Google, yeni Trillium çipinin 2024’ün sonlarında bulut müşterilerine sunulacağını söyledi. Bu ortada Blackwell tabanlı yeni Nvidia GPU’ları ise 2025’te gelecek. Ek olarak Google, geçtiğimiz ay birinci ARM tabanlı bulut işlemcisi Axion’u tanıtmıştı. Arm’ın Neoverse V2 CPU’su kullanılarak tasarlanan Axion, en yakın rakibinden yüzde 30 daha âlâ performans sunacak.
