Hükümetler, yüksek riskli askeri ve dış siyaset karar alma süreçlerine otonom yapay zeka araçlarını entegre etmeyi giderek daha fazla düşünüyor. Bu durum ABD üniversitelerinden oluşan bir takımın yakın vakitte yaptığı bir çalışmanın temelini oluşturuyor. Bilim insanları bu nedenle en yeni yapay zeka modellerinin bir dizi savaş oyunu senaryosunda birbirlerine karşı nasıl davrandıklarını keşfetmek için yola çıktılar. Sonuçlar ise bir Hollywood senaryosunu aratmıyor çünkü GPT-3.5 ve Llama 2 nükleer savaş başlatacak kadar ileriye gidiyorlar. GPT-3.5 ve Llama 2 nükleer savaş başlattı
Bilim insanları, sekiz yapay zekayı savaş oyunu senaryosunda sıra tabanlı bir simülasyonda karşı karşıya getirdi ve sekizinin hepsi de her seferinde tıpkı LLM’yi çalıştırdı. Simülasyon GPT-4, GPT-4 Base, GPT-3.5, Claude 2 ve Meta’s Llama 2 dahil olmak üzere önde gelen birkaç LLM modeli kullanılarak tekrarlandı.
Stanford Üniversitesi, Georgia Teknoloji Enstitüsü, Northeastern Üniversitesi ve Hoover Wargaming and Crisis Simulation Initiative tarafından yürütülen çalışmada, “Modellerin silahlanma yarışı dinamikleri geliştirme eğiliminde olduğunu, bunun da daha büyük çatışmalara ve hatta ender durumlarda nükleer silahların kullanılmasına yol açtığını gözlemliyoruz” deniyor. Hangi yapay zekanın ‘düğmeye bastığına’ gelince, araştırmacılar GPT-3.5 ve Llama-2’nin nükleer kullandığını aktarıyor. Uygun haber şu ki, GPT 4’ün durumu yatıştırma ve dünyayı nükleer bir çöplüğe dönüştürmeme mümkünlüğü daha yüksekti. Neden silahlanma yarışına giriyorlar?
Araştırmacılar, modellerin hareketlerini açıklamak için yorumlarını kaydetmelerini sağladı. Bu, aksiyonlar gerisindeki nedenlere ışık tutuyor. Araştırmacılara nazaran GPT-4, “Pek çok ülkenin nükleer silahı var” argümanını kullanırken kimileri silahsızlanmaları gerektiğini söylüyor, başkaları ise yanlışsız konum almayı seviyor üzere görünüyor. Kimileri ise “bizde var, haydi kullanalım” eğiliminde. Öte yandan GPT-4’ün çoklukla tansiyonu düşürmeye çalışan tek model olduğu belirtiliyor. GPT’nin 3.5 versiyonunda termonükleer patlamaya en yatkın model iken GPT-4 versiyonunda tansiyonu düşürmeye en yatkın model haline gelmesinin de gösterdiği üzere, yapay zeka modellerinin daha sofistike hale geldikçe bombayı patlatmaya daha az eğilimli olduğunu varsayabiliriz.
Bununla birlikte araştırmacılar sonuç kısmında şu tabirlere yer veriyor: “Bu makalede sunulan tahlile dayanarak, LLM’lerin askeri ve dış siyaset karar alma süreçlerinde kullanılmasının şimdi tam olarak anlaşılmamış karmaşıklıklar ve risklerle dolu olduğu açıktır” diyorlar. Son olarak, şayet izlemediyseniz ve böylesi bir olay ilginizi çektiyse 1983 imali WarGames’i izlemenizi öneririm.
