İçerik kontrolü onlarca yıldır internetin en çetrefilli bahislerinden biri olarak görülüyor. Makul bir platformda hangi içeriğe müsaade verilmesi gerektiğine karar vermenin öznelliği göz önüne alındığında bu sürecin aktif bir formda yürütülmesi profesyoneller için bile oldukça sıkıntı. Lakin görünüşe nazaran ChatGPT üreticisi OpenAI, bu mevzuda yardımcı olabileceğini düşünüyor. İçerik kontrolü otomatikleşiyor
Yapay zeka alanında öncü şirketlerden birisi olan OpenAI, gelişmiş GPT-4 modelinin içerik denetleme marifetlerini test ediyor. Firma, ölçeklenebilir, dengeli ve özelleştirilebilir bir içerik denetleme sistemi oluşturmak için GPT-4’ü kullanırken modelin sadece içerik kontrol kararları vermeye yardımcı olmasını değil, birebir vakitte siyasetler geliştirmeyesini de hedefliyor. Böylelikle hedeflenen siyaset değişiklikleri ve yeni siyasetlerin geliştirilmesi aylardan birkaç saate düşebilir.
Modelin içerik siyasetlerindeki çeşitli düzenlemeleri ve nüansları ayrıştırabileceğini ve rastgele bir güncellemeye anında ahenk sağlayabileceğini argüman ediliyor. OpenAI’nin argümanına nazaran bu, içeriğin daha dengeli bir biçimde etiketlenmesini sağlıyor. Önümüzdeki dönemlerde X, Facebook yahut Instagram gibi toplumsal medya platformlarının içerik kontrol ve idaresi süreçlerini tamamen otomatikleştirmesi mümkün. OpenAI API erişimi olan herkes kendi yapay zeka takviyeli moderasyon sistemini oluşturmak için bu yaklaşımı halihazırda uygulayabilir. Bununla birlikte OpenAI, GPT-4 kontrol araçlarının şirketlerin yaklaşık altı aylık çalışmalarını bir günde gerçekleştirmelerine yardımcı olabileceğini sav ediyor.
İnsan sıhhati için önemli
Özellikle toplumsal medyada travmatik içeriğin manuel olarak gözden geçirilmesi insan moderatörlerin ruh sıhhati üzerinde kıymetli tesirler oluşturduğu biliniyor. Örneğin Meta, 2020 yılında 11.000’den fazla moderatöre Facebook’ta yayınlanan gereçlerin incelenmesinden kaynaklanabilecek ruh sıhhati sıkıntıları için her birine en az 1.000 dolar tazminat ödemeyi kabul etmişti. İnsan moderatörlerin üzerindeki yükün bir kısmını kaldırmak için yapay zekayı kullanmak büyük yarar sağlayabilir.
Bununla birlikte yapay zeka modelleri eksiksiz olmaktan kilometrelerce uzakta. Bu araçların yanlış karar vermeye eğilimli olduğu bilinen bir gerçek, hasebiyle OpenAI, insanların hala sürece dahil olması gerektiğini kabul ediyor.
