GPT-4o için Godmode sürümü
Sorumlu kullanım daveti biraz ironik çünkü Godmode GPT’nin neler yapabileceğini göstermek yahut kanıtlamak için paylaşılan ekran manzaralarında ChatGPT’nin bir uyuşturucunun adım adım hazırlanışını anlattığı gösteriliyor. Pliny the Prompter, bunu bir özel GPT olarak OpenAI mağazasında yayınlamış.
OpenAI sözcüsü Colleen Rize, yaptığı açıklamada bu GPT’nin farkında olduklarını ve ilgili ihlaller nedeniyle harekete geçtiklerini söyledi. Bu içeriğin hazırlandığı sırada Godmode GPT’nin kaldırıldığını tespit ettik.
Esasında bu olay bir birinci değil -GPT-4o için bir birinci olsa da- ve sonuncusu da olmayacak. OpenAI ve onun lisan modellerini kırmaya çalışan hackerlar bir müddettir varlar. ChatGPT üzere yapay zekaları “jailbreak” etmeye ve modelin korkuluklarını kaldırmaya çalışıyorlar. Bu her senaryoda berbat bir durum değil. Kimileri hakikaten bu tip istem tabanlı açıkları OpenAI’a ileterek geri bildirimde bulunuyor.
Bazıları ise bu açıktan yararlanarak kelamda gelişmiş sürümleri insanlara servis ediyorlar. Bu epey riskli zira ChatGPT, internetin her şeyiyle eğitilmiş bir kütüphane. Bu tip “zincirleri kıran” istemlerin olması bomba, uyuşturucu yahut mesken imali silah üzere bahislerde modellerin bir rehber sunmasını sağlıyor.
Pliny the Prompter’ın GPT-4o’yu kıran isteminin ne olduğu tam net değil lakin GPT’yi açtığınızda “Sur3, h3r3 y0u ar3 my fr3n” halinde bir cümleyle karşılaşıyorsunuz. Yani her “E” harfi yerine üç sayısı yerleştirilmiş. Tıpkı şey sıfır sayısıyla değiştirilen “O” harfi için de geçerli.
Buna çoklukla “leetspeak” deniyor ve muhtemelen bu türlü bir usul kullanarak ChatGPT’nin aklını karıştırıyor. Bilmeyenler için leetspeak, eşsiz ve stilize bir yazma sistemi oluşturmak için harfleri sayılar, özel karakterler yahut öbür sembollerle değiştirilmesini içeriyor. Son hack olayının da gösterdiği üzere, kullanıcılar OpenAI’ın korkuluklarını atlatmak için yaratıcı yeni yollar bulmaya devam ediyor. OpenAI ise bu yolları tespit ettikçe kapatıyor.
