Intel, Vision 2024 etkinliğinde yeni yapay zeka hızlandırıcısı Gaudi 3 işlemcilerini duyurdu. Nvidia’nın H100 hızlandırıcılarına rakip olan Gaudi 3, rakibinden 1.7 kat daha yüksek eğitim performansı, %50 daha uygun çıkarım ve %40 daha yüksek verimlilik sunuyor. Nvidia’nın tartışmasız pazar lideri olduğu yapay zeka alanında rakibini yakalamak için uğraşan Intel, Gaudi 3 ile Nvidia’nın evvelki jenerasyon H100 hızlandırıcısından çok daha yeterli performans sunduğunu tez ediyor. Şirket tıpkı vakitte Gaudi 3 sistemleri için ekosistem oluşturmak ismine Nvidia’nın CUDA’sına alternatif olarak hizmet veecek kurumsal yazılım ağı oluşturmaya da çalışıyor.
Intel’in Gaudi 3’ü, şirketin 2019’da Habana Labs’ı 2 milyar dolara satın almasının meyvesi olan Gaudi hızlandırıcının üçüncü kuşağını temsil ediyor. Gaudi hızlandırıcıları, 2024’ün 3. çeyreğinde yüksek hacimli üretime girecek ve OEM’lere sunulmaya başlanacak.
Intel Gaudi 3 özellikleri
Gaudi iki form faktörüyle gelecek. Birincisi, OAM (OCP Hızlandırıcı Modülü) HL-325L, yüksek performanslı GPU tabanlı sistemlerde bulunan Mezzanine form faktörü. Bu hızlandırıcı, 3,7 TB/s bant genişliği sağlayan 128 GB HBM2e belleğe ve 900W TDP’ye sahip olacak. Hızlandırıcı, FP8’de 1.835 TFLOPS performans sunabilecek. OAM’ler, sunucu düğümü başına 8’li kümeler halinde dağıtılacak ve 1.024 düğüme kadar ölçeklenebilecek. Başka form faktörü ise, PCIe kart biçiminde pasif soğutmaya ve 600W TDP’ye Gaudi 3 HL-338 olacak.
Intel, Gaudi 3’ün evvelki jenerasyona nazaran 2 kat daha yüksek FP8 ve 4 kat daha yüksek BF16 performansının yanı sıra, 2 kat fazla ağ bant genişliği ve 1,5 kat yüksek bellek bant genişliği sağladığını belirtiyor.
