Avrupa Birliği Parlamentosu bugün, yapay zekayı yönetmek üzere dünyanın birinci büyük düzenleyici temel kurallarını resmen onayladı. Avrupa Kurulu’nun iç pazardan sorumlu üyesi Thierry Breton X’te yaptığı açıklamada “Avrupa artık yapay zeka alanında global standart belirleyici konumundadır” dedi. Avrupa Parlamentosu Lideri Roberta Metsola, maddeyi çığır açıcı olarak nitelendirirken yasanın temel hakları koruduğunu ve tıpkı vakitte inovasyonu engellemediğini söyledi. 2021 yılında doğan AB Yapay Zeka Yasası, teknolojiyi kabul edilemezden -ki bu teknolojinin yasaklanacağı manasına geliyor- yüksek, orta ve düşük tehlikeye kadar çeşitli risk kategorilerine ayırıyor. Düzenlemenin, son denetimlerden geçtikten ve Avrupa Kurulu’ndan onay aldıktan sonra Mayıs ayında yürürlüğe girmesi bekleniyor.
Bir mühlet evvel Birlik, ABD’li devleri dizginlemek için dönüm noktası niteliğindeki rekabet mevzuatını yürürlüğe koymuştu. Dijital Piyasalar Yasası uyarınca AB, büyük teknoloji şirketlerinin rekabete ters uygulamalarını engelleyebilme yahut platformlarını açmaya zorlama yetkisine sahip olmuştu.
AB Yapay Zeka Yasası, yürürlüğe girdiğinde ülkelerin yasaklanmış AI sistemlerini yasaklamak için altı ayı, sohbet robotları üzere “genel gayeli AI sistemlerine” karşı kuralları uygulamak için 12 ayı ve yasanın “yüksek riskli” olarak belirlediği AI sistemleri için 36 aya kadar mühleti olacak.
Hangi yapay zekalar yasaklanacak?
- Hassas özellikleri kullanan biyometrik kategorizasyon sistemleri (örneğin siyasi, dini, felsefi inançlar, cinsel yönelim, ırk);
- Yüz tanıma veritabanları oluşturmak için internetten yahut CCTV imgelerinden yüz imajlarının hedeflenmeden kazınması;
- İşyerinde ve eğitim kurumlarında his tanıma;
- Sosyal davranışa yahut ferdî özelliklere dayalı toplumsal puanlama;
- İnsan davranışlarını manipüle ederek özgür iradelerini engelleyen AI sistemleri;
- İnsanların (yaşları, engellilikleri, toplumsal yahut ekonomik durumları nedeniyle) zayıflıklarını istismar etmek için kullanılan AI uygulamaları yasaklandı.
Hangi kaidelere uyulacak ve cezalar neler?
Kurallara uyulmaması, ihlale ve şirketin büyüklüğüne bağlı olarak 35 milyon avro veya global cironun %7‘si ila 7,5 milyon avro yahut cironun %1,5’i ortasında değişen para cezalarına yol açabilecek. Yapay Zeka Yasası potansiyel olarak ağır para cezalarını açık kaynaklı geliştiricilere, araştırmacılara ve kıymet zincirinin daha aşağısında çalışan şirketlere uygulamayacak.
Yeni kurallar, hassas özelliklere dayalı biyometrik kategorizasyon sistemleri ve yüz tanıma veritabanları oluşturmak için internetten yahut CCTV imgelerinden yüz imgelerinin hedeflenmeden kazınması dahil olmak üzere vatandaşların haklarını tehdit eden makul AI uygulamalarını yasaklıyor. İşyerinde ve okullarda duygu tanıma, toplumsal puanlama, öngörücü polislik ve insan davranışını manipüle eden yahut güvenlik açıklarını istismar eden yapay zekalar da yasaklanacak. AB Yapay Zeka Yasası’nın kuralları ve katılı ilgili yapay zeka sistemine bağlı olacak. Yani, risk ne kadar yüksekse kurallar da o kadar katı olacak.
Yüksek riskli yapay zeka kullanım örnekleri ortasında kritik altyapı, eğitim ve mesleksel eğitim, istihdam, temel özel ve kamu hizmetleri (örneğin sıhhat hizmetleri, bankacılık), kolluk kuvvetlerindeki muhakkak sistemler, göç ve hudut idaresi, adalet ve demokratik süreçler (örneğin seçimleri etkileme) yer alıyor. Bu çeşit sistemlerin riskleri değerlendirmesi ve azaltması, kullanım kayıtlarını tutması, şeffaf ve gerçek olması ve insan nezaretini garantiye alması kural koşuluyor. Vatandaşlar, yapay zeka sistemleri hakkında şikayette bulunma ve açıklama alma hakkına da sahip olacak. ChatGPT üzere genel emelli yapay zeka sistemleri ve bunların dayandığı büyük lisan modelleri (GPT-4 gibi) AB telif hakkı maddesine uygunluk ve eğitim için kullanılan içeriğin detaylı özetlerinin yayınlanması dahil olmak üzere muhakkak şeffaflık gereksinimlerini karşılamak zorunda olacak. Sistemik risk oluşturabilecek daha güçlü modeller için de ek gereklilikler (risk azaltması, raporlama gibi) sağlanacak. Bununla birlikte yapay yahut manipüle edilmiş görüntü, ses yahut video içeriklerinin (deepfake gibi) açıkça etiketlenmesi gerekecek.
Genel olarak AB Yapay Zeka Yasası’nın tam manasıyla aktif olması 2025 yılını bulacak. Yasanın tıpkı vakitte bu alanda öncü şirketlere (Meta, Amazon, Adobe, Google, Nvidia ve OpenAI gibi) sahip olan ABD’yi de harekete geçirmesi bekleniyor. ABD hala kendi yapay zeka maddesine son formu vermiş değil.
Son olarak yasa, mevcut modelleri yahut uygulamaları geriye dönük olarak düzenlemiyor lakin OpenAI’ın GPT’sinin, Meta’nın Llama’sının yahut Google’ın Gemini’sinin gelecekteki sürümlerinin AB tarafından belirlenen şeffaflık ihtiyaçlarını dikkate alması gerekecek.
