Microsoft ve OpenAI bugün, bilgisayar korsanlarının mevcut siber ataklarını uygunlaştırmak için ChatGPT üzere büyük lisan modellerini kullandıklarını belirtti. Yeni yayınlanan araştırmalarda Microsoft ve OpenAI, Rus, Kuzey Kore, İran ve Çin takviyeli kümelerin, maksatları araştırmak, komut belgelerini geliştirmek ve toplumsal mühendislik teknikleri oluşturmaya yardımcı olmak için ChatGPT üzere araçları kullanma teşebbüslerini tespit etti. Microsoft, blog gönderisinde şunları söyledi: “Siber cürüm kümeleri, ulus-devlet tehdit aktörleri ve öbür düşmanlar, operasyonlarının potansiyel kıymetini ve aşmaları gereken güvenlik denetimlerini anlamak emeliyle farklı yapay zeka teknolojilerini araştırıyor ve test ediyor.”
Rus askeri istihbaratına bağlı Stronsiyum grubunun, uydu irtibat protokollerini, radar görüntüleme teknolojilerini ve belli teknik parametreleri anlamak için büyük lisan modellerini (LLM) kullandığı ortaya çıktı. APT28 yahut Fancy Bear olarak da bilinen bilgisayar korsanlığı kümesi, Rusya’nın Ukrayna’daki savaşı sırasında aktifti ve daha önce de Hillary Clinton’ın 2016’daki başkanlık kampanyasını gaye almıştı.
Grup ayrıyeten Microsoft’a nazaran teknik süreçleri potansiyel olarak otomatikleştirmek yahut optimize etmek için evrak sürece, data seçimi, nizamlı tabirler ve çoklu sürece dahil olmak üzere temel komut evrakı oluşturma misyonlarına yardımcı olmak için lisan modellerini kullanıyor.
Thallium olarak bilinen Kuzey Koreli bir bilgisayar korsan kümesi, kamuya bildirilen güvenlik açıklarını araştırmak ve kuruluşları gaye almak, temel komut belgesi yazma misyonlarına yardımcı olmak ve kimlik avı kampanyaları için içerik taslağı hazırlamak için LLM’leri kullanıyor. Microsoft, Curium olarak bilinen İranlı kümenin birebir vakitte kimlik avı e-postaları oluşturmak ve hatta antivirüs uygulamaları tarafından tespit edilmekten kaçınmak için kod oluşturma emeliyle LLM’leri kullandığını söylüyor. Çin devletine bağlı hackerlar birebir vakitte LLM’leri araştırma, metin yazma, çeviri ve mevcut araçlarını geliştirmek için de kullanıyor.
Özellikle WormGPT ve FraudGPT gibi yapay zeka araçlarının berbat maksatlı e-postaların ve kırma araçlarının oluşturulmasına yardımcı olmak üzere ortaya çıkmasıyla birlikte, yapay zekanın siber taarruzlarda kullanımına ait kaygılar oluştu. Ulusal Güvenlik Ajansı’ndan üst seviye bir yetkili de geçen ay bilgisayar korsanlarının kimlik avı e-postalarının daha inandırıcı görünmesini sağlamak için yapay zekayı kullandığı konusunda uyardı.
Microsoft ve OpenAI şimdi LLM’leri kullanan rastgele bir değerli akın tespit etmedi, lakin şirketler bu hacker kümeleriyle alakalı tüm hesapları ve varlıkları kapatıyor.
Yapay zekanın siber ataklarda kullanımı şu anda sonlu üzere görünse de Microsoft, ses kimliğine bürünme üzere gelecekteki kullanım durumları konusunda uyarıyor: “Yapay zeka takviyeli dolandırıcılık bir öbür kritik sorun. Ses sentezi bunun bir örneği; üç saniyelik bir ses örneğiyle bir model, rastgele biri üzere ses çıkaracak formda eğitilebiliyor. Sesli bildiriler üzere zararsız bir şey bile kâfi örnekleme elde etmek için kullanılabilir.”
Doğal olarak Microsoft’un tahlili, yapay zeka akınlarına cevap vermek için yapay zekayı kullanıyor. Microsoft’un baş algılama analitiği yöneticisi Homa Hayatyfar, “Yapay zeka, saldırganların daha sofistike hücumlar yapmasına yardımcı olabilir ve bu bahiste kullanabilecekleri kaynaklara sahipler” diyor. “Bunu Microsoft’un takip ettiği 300’den fazla tehdit aktöründe gördük. Bu tehditlerden korunmak, tespit etmek ve karşılık vermek için yapay zekayı kullanıyoruz.”
Microsoft, siber güvenlik profesyonellerinin ihlalleri belirlemesi ve siber güvenlik araçları aracılığıyla günlük olarak üretilen büyük ölçülerdeki ihtarları ve dataları daha uygun anlamak için yeni bir yapay zeka asistanı olan Security Copilot‘u geliştiriyor. Yazılım devi, büyük Azure bulut saldırılarının ve hatta Rus bilgisayar korsanlarının Microsoft yöneticilerini gözetlemesinin ardından yazılım güvenliğini de elden geçiriyor.
