GPU’larda kritik güvenlik açığı
CVE-2023-4969 olarak takip edilen güvenlik açığı, saldırganların GPU lokal belleğinden bilgi kurtarmasına imkan tanıyor. Tüm GPU uygulamalarını etkilemekle birlikte, bilhassa büyük lisan modelleri (LLM) ve makine tahsili (ML) iş yükleri için bu durum son derece tehlikeli ve bunlar ekseriyetle bol ölçüde potansiyel olarak hassas bilgi işlemekte. Kısaca yapay zeka datalarınız ortalığa saçılabilir.
Araştırmacılar, lokal belleği kurtararak “bir saldırganın öbür bir kullanıcının etkileşimli LLM oturumunu (ör. llama.cpp) süreç boyunca dinleyebileceği bir PoC oluşturabildiklerini” tez ediyorlar. LeftoverLocals, 5 MB ile 180 MB arasında değişen değerli ölçüde data sızdırabiliyor. Örnek olarak, AMD’nin Radeon RX 7900 XT modelinin GPU çağırma başına yaklaşık 5,5 MB data sızdırdığı ve bunun da llama.cpp üzerinde 7B’lik bir model çalıştırırken her bir LLM sorgusu için yaklaşık 181 MB’a denk gelebileceği söyleniyor.
AMD, grafik işlemcilerinin meseleden etkilendiğini doğruladı ve potansiyel hafifletme planları üzerinde çalıştığını söyledi. Qualcomm‘a gelince, şirket kimi aygıtlar için LeftoverLocals’ı ele alan v2.07 eser yazılımına bir yama yayınladı. Bununla birlikte, şirketin çipleri tarafından desteklenen öbür aygıtların hala etkilenmiş olması mümkün. Imagination da Aralık 2023’teki en son DDK sürümü olan 23.3’te LeftoverLocals için bir düzeltme yayınladı.