OpenAI, ChatGPT‘nin geliştiricisi olarak, yapay zeka güvenliği ve ürünlerinin korunması konusunda kamuoyunu bilgilendirdi. Daha önce, ChatGPT kullanıcılarından bazılarının hassas bilgileri ufak bir hata nedeniyle ifşa olmuştu. Bu durum neticesinde ChatGPT, İtalya’da yasaklanmış ve Avrupa’nın çeşitli ülkelerinde denetime tabi tutulmuştu.
Geçen hafta, gizlilik kaygıları nedeniyle ChatGPT kullanımına yasak getiren İtalya ilk batılı ülke oldu. OpenAI, mevcut kanunlara uygun olduğunu savunsa bile, İtalya’nın bu adımı, diğer ülkelerin yapay zeka güvenliği sağlanana dek kullanımını kısıtlama ihtimalini artırabilir. Şirketin internet sitesindeki blog yazısı, son aylarda önemli gelişmeler kaydeden AI modelleri ile ilgili endişeleri azaltmaya yöneliktir. Fakat endişeler tamamen ortadan kalkacak mı? Muhtemelen hayır.
“GPT-4 piyasaya sürülmeden 6 ay test edildi”
Open AI, yeni sistemlerini kamuya sunmadan önce dışarıdan uzmanlarla beraber titiz bir şekilde testler gerçekleştirdiğini ve geliştirmeler yaparak bu süreci insan geri bildirimi ve güçlendirici öğrenme ile desteklediğini ifade ediyor. Şirket, GPT-4 adını verdikleri en son modeli markete sunmadan önce altı ay süreyle yoğun test prosedürlerinden geçirdiğini belirtiyor ve düzenlemeler yapılması gerektiğini savunuyor: “Kuvvetli yapay zeka sistemlerinin titiz güvenlik değerlendirmelerinden geçirilmesinin gerekliliğine inanmaktayız. Bu tür teknolojilere yapılan adaptasyon sürecinde düzenlemelerin gerçekleştirilmesi önemlidir ve bu konuda hükümetlerle iş birliği içerisinde çalışarak en uygun düzenleme metodlarını belirlemekteyiz.”
OpenAI, titiz bir şekilde yürütülen derinlemesine araştırma ve testlere rağmen laboratuvar ortamında sınırlı bilgi edinebildiklerini ve bu sebeple tüm olumlu ve olumsuz kullanım örneklerini tahmin edemediklerini ifade ediyor. Bu nedenle, şirket halka açık testlerin bu tür yapay zeka sistemlerinin gelişimi için vazgeçilmez olduğunu belirtiyor. OpenAI, hizmetlerinin kullanımına dair kötü amaçları tespit edebileceğini ve gerçek dünyadan alınan verilere dayalı olarak hızlı bir şekilde önlem alabileceğini dile getiriyor.
Kötüye kullanım devam edecek
Açıkçası, OpenAI, ChatGPT gibi teknolojilerin ortaya çıkardığı gerçek risklere karşı hassas politikalar geliştirirken, aynı zamanda insanların bunları faydalı ya da zararlı amaçlarla kullanmasına teoride izin veriyor.
ChatGPT’ye yaş doğrulama geliyor
Şirket ayrıca, 18 yaş üstü veya ebeveyn onayı bulunan 13 yaşından büyük kullanıcıların hizmetlerine ulaşabilmesi amacıyla doğrulama seçeneklerini gözden geçirdiğini belirtti. İtalya’daki yasak kararı kapsamında, doğrulama opsiyonunun bulunmamasına da dikkat çekilmekteydi.
OpenAI, GPT-4 adlı yeni modelinin, nefret söylemi, taciz ve şiddetle ilgili içerik taleplerine yanıt verme ihtimalinin yüzde 82 daha düşük olduğunu belirtiyor. GPT-4’ün, gerçeğe dayalı içerik üretme şansının GPT-3.5’a kıyasla yüzde 40 daha yüksek olduğu ise blog yazısında öne çıkıyor. Bununla birlikte, OpenAI çıktılarının her zaman doğru olmayabileceği konusunda olabildiğince açık ve şeffaf olmayı
Açıkçası, OpenAI’ın söz konusu açıklamasının endişeleri gidermediğini ifade etmekte fayda var. Yayımlanan blog yazısında, kullanıcıların sohbet verilerinin eğitim amacıyla kullanabileceği net bir şekilde belirtilmiş. Gerçi bu verilerin reklam veya gelir amaçlı kullanılmayacağı ifade edilse de, hala soru işaretleri bulunuyor. Peki sizce, OpenAI tarafından alınan önlemler yeterli mi?
