Taşınabilir Dünya Kongresi (MWC) 2024 kapsamında Qualcomm, Snapdragon platformu üzerinde çalışan Android telefonlar için yeni üretken yapay zeka özellikleri sergiledi. Bu yapay zekalar sayesinde telefon üzerinde sesle aktifleştirilen medya düzenlemeleri, Stable Diffusion kullanarak aygıt üzerinde imaj oluşturma ve Meta’nın Llama’sı üzere büyük lisan modelleri üzerine inşa edilmiş akıllı sanal asistanları telefonlara gelecek. Qualcomm’dan Android ve Windows için yapay zeka çıkarması
Qualcomm’un hazırladığı yapay zeka özelliklerinden birisi Large Language and Vision Assistant (LLaVa) modeline dayanıyor. Bu, Google Lens ve ChatGPT’nin birleşmesiyle oluşan bir sohbet robotu üzere düşünülebilir. Münasebetiyle Qualcomm’un tahlili yalnızca metin girdilerini değil görsel girdileri de işleyebilerek çok modlu bir yetenek sağlamış oluyor. Qualcomm’a nazaran LLaVa, Android için dünyanın birinci multimodal büyük lisan modeli pozisyonunda. Firmaya nazaran 7 milyardan fazla parametreyi işleyebilen model, rastgele bir imaja dayalı olarak devam sorularına karşılıklar verebiliyor. Çabucak üstteki görselden bunun bir örneğine göz atabilirsiniz. Bununla birlikte ChatGPT, Gemini ve Copilot üzere çok modlu (multimodal) yapay zekalara esasen bir müddettir sahibiz. Lakin onlarla Qualcomm’unki ortasında değerli bir fark var.
ChatGPT ve Copilot üzere eserler hala bulut tabanlı bir mimariye dayanırken Qualcomm ise süreci direkt cihaz üzerinde ilerletiyor. Yani bilgiler aygıtınızda kalıyor ve her şey telefonunuzda gerçekleşiyor. Bu sayede hem daha tepkisel ve süratli bir tecrübe hem de daha inançlı bir süreç sağlanmış oluyor. Öte yandan Qualcomm’un sergiledi LLaVa tabanlı sanal asistanın bağımsız bir uygulama olarak mı geleceği yahut fiyatlı olup olmayacağı şimdilik belgisiz.
Bir öbür yapay zeka duyurusu ise imaj oluşturma ve düzenleme alanına odaklanan LoRA (Low-Rank Adaptation) uygulaması. Dall E gibilerin bilakis LoRA, imaj üretiminde farklı bir yaklaşım kullanıyor. Microsoft tarafından geliştirilen bu teknik sayesinde model daha küçük ve daha gerçek hale getirilebilirken bellek ihtiyaçları azaltılıyor ve süreç hızlandırılıyor. Qualcomm bir akıllı telefon için LoRA tekniğini birinci kez uyguladığını söylüyor. Qualcomm’a nazaran LoRA ile Stable Diffusion’ı çalıştıran kullanıcılar, ferdî yahut sanatsal tercihlere nazaran yüksek kaliteli özel imajlar oluşturabiliyor. Firmaya nazaran bu da aygıt üzerinde çalışıyor. Qualcomm ayrıyeten Android dışında Windows PC’ler için de kıymetli bir duyuru gerçekleştirdi. Firma, teknoloji demosunda, bir Windows PC’de sesli muhakeme özelliğine sahip dünyanın birinci büyük çok modlu modelini (LMM) sergiledi. Böylece büyük lisan modellerinin artık duyabildiğini, sesi anlayabildiğini ve bu hususta muhakeme yapabildiğini söyleyebiliriz.
Qualcomm bir Windows PC’de, metin ve ses girdilerini (örn. müzik, trafik sesi vb.) kabul edebilen ve ses hakkında çok turlu konuşmalar oluşturabilen 7+ milyar parametreli bir LMM üzerinde çalışıyor. Firmaya nazaran Full Stack AI optimizasyonu sayesinde düşük güçle yüksek performans elde ediliyor. Bu araç da tekrar aygıt üzerinde çalışıyor.
Qualcomm AI Hub
Üstte detaylandırdığımız AI özellikleri temelinde Qualcomm’un yeni periyot AI planları ortasında yer alıyor. Bu planlar ise Qualcomm AI Hub paketinde toplanıyor. Qualcomm AI Hub, geliştiricilere Snapdragon ve Qualcomm platformları için 75’ten fazla optimize edilmiş AI modeli sunuyor. Yeni Qualcomm AI Hub, Snapdragon ve Qualcomm platformları tarafından desteklenen aygıtlarda sıkıntısız dağıtım için evvelden optimize edilmiş AI modellerinden oluşan bir kütüphane içeriyor. Bu kütüphane, aygıt üzerinde gelişmiş performans, daha düşük bellek kullanımı ve daha âlâ güç verimliliği için optimize edilmiş, farklı form faktörlerinde paketlenmiş Whisper, ControlNet, Stable Diffusion ve Baichuan 7B gibi 75’ten fazla tanınan üretken yapay zeka bulunuyor.
Her model, Qualcomm AI Engine (NPU, CPU ve GPU) içindeki tüm çekirdeklerde donanım hızlandırmadan yararlanacak biçimde optimize edilmiş ve böylelikle 4 kat daha süratli çıkarım müddetleri elde edilmesi sağlanmış durumda.
Desteklenen platformlar
- Snapdragon 8 Gen 3 Mobil
- Snapdragon 8 Gen 2 Mobil
- Snapdragon 8 Gen 1 Mobil
- Snapdragon 888
- Snapdragon 865
- Snapdragon 855
- Snapdragon 845
- Snapdragon 778
- Snapdragon XR2+ Gen 2
- Snapdragon XR1+ Gen 2
- Snapdragon AR2 Gen 1
- Qualcomm Robotics RB5
