LLM modelleri iPhone’a geliyor
ChatGPT ve Claude üzere LLM tabanlı sohbet botları inanılmaz derecede data ve belleğe gereksinim duyuyor. Sohbet botlarının ekseriyetle çalışması için çok büyük ölçüde bellek muhtaçlığı, hudutlu bellek kapasitesine sahip iPhone’lar üzere aygıtlar için bir sorun. Yapay zeka modelinin verileri depolamak için flash belleği (uygulamalar ve fotoğrafların bulunduğu belleğin aynısı) kullanmasıyla bu sorunun çözüleceği belirtildi.
Yeni bir araştırma makalesinde, büyük lisan modellerinin eğitilmesinde, taşınabilir aygıtlardaki flash depolamanın klasik olarak kullanılan RAM’den daha verimli olduğu belirtiyor. Bulunan usul, data transferini en aza indirip flash bellek randımanını en üst seviyeye çıkaran iki temel tekniği kullanarak sınırlamaları kaldırmak: Windowing ve Row-Column Bundling. Birincisinde yapay zeka modeli, her seferinde yeni datalar yüklemek yerine halihazırda işlediği dataların bir kısmını tekrar kullanıyor. Bu, daima bellek alma muhtaçlığını azaltarak süreci daha süratli ve sıkıntısız hale getiriyor. İkincisinde datalar daha verimli bir formda gruplandırılarak flash bellekten daha süratli okuması sağlanıyor, bu da yapay zekanın lisanı daha süratli anlayıp oluşturması demek.
iOS 18, yapay zeka güncellemesi olacak
Yapay zeka verimliliğindeki atılım, yeni iPhone’lar için daha gelişmiş Siri yetenekleri, gerçek vakitli lisan çevirisi ve fotoğrafçılık ile artırılmış gerçeklikte gelişmiş yapay zeka dayanaklı özellikler üzere yeni imkanların kapısını açacak. Teknoloji tıpkı vakitte iPhone’ların aygıt üzerinde karmaşık yapay zeka asistanlarını ve sohbet botlarını çalıştırmasına da yer hazırlıyor. Apple’ın üretken yapay zeka üzerindeki çalışmaları eninde sonunda Siri’ye dahil edilecek. Apple’ın Siri’nin yapay zeka ile derinlemesine entegre olan daha akıllı bir versiyonu üzerinde çalıştığı da biliniyor.
Apple’ın “Ajax” ismi verilen kendi üretken yapay zeka modelini geliştirdiği bildiriliyor. OpenAI’nin GPT-3 ve GPT-4’üne rakip olarak tasarlanan Ajax, 200 milyar parametre üzerinde çalışıyor. iOS 18 çıktığında iPhone ve iPad’in bir cins üretken yapay zeka özelliğine sahip olacağı sav ediliyor.