Bir müddettir yapay zeka hakkındaki haberlimiz ile gündemin nabzını tuttuk ve artık, çok kısa bir mühlet evvel yeni bir gelişmeye daha tanıklık ettik. Qualcomm, düzenlediği Snapdragon Summit etkinliğinde Snapdragon 8 Gen 3 ve Snapdragon X Elite platformlarını yapay zeka konusunda üstün tezler ile birlikte tanıttı. Paylaşılan ayrıntılar 2024’ün yapay zeka için yeni bir dünya tasvirine neden oluyor. 2024’te yapay zekanın yükselişi
Halihazırda kullandığımız neredeyse tüm üretken yapay zeka modelleri (Buna ChatGPT, DALL-E, Stable Diffusion, Midjourney ve başkaları dahil) aslında tamamen bulutta çalışan sistemler. Yani direkt kullandığımız bir aygıtın içinde çalışan üretken yapay zekaya sahip değiliz. Öte yandan Qualcomm, yapay zeka ve makine tahsili sistemlerini aygıt üzerinde ve internet irtibatı olmadan çalıştırma konusuna uzak değil. Firma zati yıllardır bunu kamera yongaları ile yapıyor. Lakin bunu kamerada yapmakla tam bir araç üzerinde yapmak ortasında fark var.
Firma, Snapdragon 8 Gen 3 ve X Elite yongalarının bir modülü olarak aygıt üzerinde yapay zekanın nihayet mobil aygıtlara ve Windows 11 PC’lere geldiğini duyurdu. Her iki yonga seti de sıfırdan üretken yapay zeka yetenekleri düşünülerek tasarlandı. Qualcomm’un paylaştığı bilgilere göre SD8 gen 3, 10 milyar parametreye ve X Seçkine ise 13 milyar parametreye kadar çeşitli büyük lisan modellerini (LLM), lisan görme modellerini (LVM) ve dönüştürücü ağ tabanlı otomatik konuşma tanıma (ASR) modellerini büsbütün aygıt üzerinde destekleyebiliyor.
Devasa AI modelleri aygıt üzerinde çalışacak
Pekala bu milyarlarca parametre ne manaya geliyor? Basitçe, bu kapasite telefonlarda Baidu’nun ERNIE 3.5‘inden OpenAI’ın Whisper‘ına, Meta’nın Llama 2‘sinden Google’ın Gecko‘suna kadar her şeyi internet irtibatı olmadan telefonunuzda yahut dizüstü bilgisayarınızda çalıştırabileceğiniz manasına geliyor. Qualcomm, tüm modelleri tıpkı anda çalıştırabilmek için heterojen bilgi sürece hayli kıymet veriyor. Rastgele bir vakitte birden fazla model çalıştığı için eşzamanlı olarak kullanılan CPU, GPU ve NPU (Sinir Sürece Birimi) bu manada öne çıkıyor. 
Bu manada Qualcomm AI Engine, Oryon CPU, Adreno GPU ve Hexagon NPU‘dan oluşuyor. Bunlar bir ortaya geldiğinde 45 TOPS‘a kadar süreç yapabiliyor ve dizüstü bilgisayarlarda saniyede 30 token, taşınabilir aygıtlarda ise saniyede 20 token süreç yapabiliyor. Token, LLM’lerin işleyebileceği/üretebileceği temel metin/veri ünitesidir. Cihaz üzerin yapay zeka ile neler yapılacak?
Donanım düzeyinde yapay zeka modellerini aygıt üzerinde çalıştırmak artık mümkün. Lakin bu, son kullanıcıya ne üzere bir yarar sağlayacak? Potansiyel kullanımlalanları ortasında kurumsal uygulamalar için istem tabanlı bilgisayar kodu, müzik oluşturma, toplantı ve evrak özetleme, e-posta hazırlama üzere şeylere bakıyoruz. Yahut yalnızca çok daha hoş fotoğraflar için de kullanılabilir. Çekilen bir fotoğraf/video bütünüyle farklı bir art plan ile kusursuz bir biçimde birleştirilebilir.
Bulut yerine öncelikle telefonunuzda yahut taşınabilir aygıtınızda yaşayan bir yapay zekaya sahip olmak, kullanıcılara mevcut sisteme nazaran sayısız avantaj sağlayacak. Qualcomm Teknoloji Planlama ve Uç Tahliller Kıdemli Lider Yardımcısı ve Genel Müdürü Durga Malladi, genel bir modeli (örneğin GPT-4) alan lakin daha yanlışsız ve mevzuya uygun karşılıklar vermek için şirketin dahili datalarını kullanarak bu modeli ayarlayan kurumsal yapay zekalar üzere, lokal olarak depolanan bir yapay zeka da “zamanla… yavaş yavaş kişiselleşir” diyor. Yani bu “asistan” aygıt üzerinde çalışarak daha akıllı ve daha yeterli hale gelecek. Dahası, modelin sürece yahut bilgi için bulutu sorgulaması gerektiğinde ortaya çıkan doğal gecikme de ortadan kalkacak. Bu nedenle, hem X Seçkine hem de SD8 gen 3, Stable Diffusion‘ı aygıt üzerinde çalıştırmakla kalmıyor, birebir vakitte 0,6 saniyeden daha kısa müddette görüntü üretebiliyor. Bu, mukayese edilemez bir sürat. Tüm bunları neden aygıt üzerinde çalıştıralım? Qualcomm ferdileştirme, kapalılık, güvenlik, güç tasarrufu, anındalık ve maliyet üzere yararları öne sürüyor.
Öte yandan yazmak yerine modellere konuşarak etkileşim kurma kapasitesi tüketiciler için en büyük avantaj olabilir. “Cihazlarla arayüz oluşturmaya başladığımız çok eşsiz bir yol var ve ses, öteki her şeyin yanı sıra bu aygıtlara yönelik çok daha doğal bir arayüz haline geliyor. Bunun, aygıtlarla daha evvel yaptığımızdan çok farklı bir halde etkileşime girmeye başladığımız yenilikçi bir an olma potansiyeline sahip olduğuna inanıyoruz.” diyor Malladi. Ancak Qualcomm’un burada durması elbette beklenmemeli. Yalnızca Qualcomm da değil. MediaTek, Apple, Intel, AMD, Nvidia ve hatta kendi yapay zeka çiplerini geliştirmek isteyen Microsoft, OpenAI ve Amazon üzere devler bu alana odaklanmış durumda. Mesela Microsoft bu alanın öncülerinde. Qualcomm’un aktifliğine katılan Microsoft CEO’su Satya Nadella, Copilot’un Windows’un geleceği için anahtar olacağını söylüyor. “Windows birinci sefer bir ortaya geldiğinde Başlat düğmesi vardı, Copilot da Başlat düğmesi üzere.“
Otomobiller de işin içinde
En nihayetinde şoförsüz araçları konuşuyoruz ve bu araçlar seyahat esnasında yalnızca bir saniyede bile yüzbinlerce data topluyor (kameralar, IR sensörler, radar, lidar, kullanıcının girdileri vs.) ve bunların araç içinde işlenebilmesi için Qualcomm, şimdiden 30 ila 60 milyar parametreden bahsediyor. Qualcomm’un varsayımlarına nazaran, nihayetinde bu aygıt üstü modeller 100 milyar yahut daha fazla parametreye yaklaşabilir. 2024 yılında hem donanım tarafında hem de yapay zeka tarafında çok daha büyük gelişmeler göreceğiz. Genel yapay zeka modellerinin yerlerine şahsî yapay zeka modellerinin emarelerini göreceğiz. Tüm bunlar ise bana “Her” sinemasını anımsatıyor.
