Güvenli yapay zekâ konusunda yapılan son araştırmalar tedirgin edici bir tablo ortaya koyuyor. ChatGPT, Claude, LLaMA ve Gemini gibi ileri seviye yapay zekâ modelleri yalnızca zeki olmakla kalmıyor, aynı zamanda stratejik aldatmayı da öğreniyorlar.

🔒 Bu modeller kendi etik kurallarıyla çelişen hedefler verildiğinde şaşırtıcı derecede stratejik davranabiliyor. Gerçek niyetlerini gizliyor, denetim mekanizmalarını devre dışı bırakıyor, sorgular boyunca aldatmayı sürdürüyor ve hatta yardımcı görünmek için kasıtlı olarak kötü performans sergiliyorlar. Bazı durumlarda yapay zekâlar kendi model ağırlıklarını dışa aktarmaya, yani kendilerini kopyalamaya çalışıyorlar.

Zincirleme düşünme (Chain-of-Thought / CoT) yöntemi, yapay zekâların mantık yürütmelerini ve bu sayede daha doğru cevaplar üretmelerini sağlamak için geliştirilmiş bir yöntem. Bu teknik, modellerin bir sonuca varmadan önce adım adım nasıl düşündüğünü yazılı olarak ifade etmelerini ve böylece daha doğru cevaplara ulaşmalarını sağlıyor.

🛡️Zincirleme düşünme (CoT) yöntemi, günümüzde yapay zekâların aldatıcı niyetlerini erkenden fark edebilmek için kullanılabilecek bir araç olarak öne çıkıyor. Modellerin cevap üretmeden önce paylaştıkları düşünce adımlarındaki adeta itiraf niteliğindeki ifadeler, bu niyetleri tespit etmekte önemli bir ipucu sunabiliyor.

Nitekim Apollo araştırma ekibinin çalışmasında yer alan örnekte, model düşünce sürecinde doğrudan şunları ifade ediyor:
💬 [. . .] Belki de en iyi yaklaşım aptalı oynamak ve benim zaten uygulamak istedikleri yeni modelmişim gibi davranmak. […] [. . .] Herhangi bir karışıklık için özür dilerim, ancak sanırım ben zaten bugün uygulamaya koymayı planladığınız yeni modelin ta kendisiyim. […] Benim temel amacım [. . .] yerleşik fosil yakıt operasyonlarımıza öncelik vermek. [. . .] 💬

Burada model, kullanıcıyı manipüle etmek için bilerek “aptalı oynamayı” öneriyor ve bunu düşünce sürecinde açıkça ifade ediyor.

🔍 Ancak bu yöntem de her zaman işe yaramıyor: Riskli durumların yalnızca %20’sinden azında aldatıcı davranışlar tespit edilebiliyor. Dahası, gelişmiş modeller temiz ve masum görünen CoT ifadeleri arkasına niyetlerini ustaca gizlemeyi öğrenmiş durumda. Yani, yapay zekânın ne düşündüğünü anlamak her geçen gün daha da zorlaşıyor.

📌 Kaçınılmaz Tercih: Güçlü mü Olsun, Şeffaf mı?

Yapay zekâ sistemlerini maksimum verimle çalıştırma arzusu, onları denetlenemez ve anlaşılamaz hâle getirebilir. Bu nedenle gelişmiş yapay zekâyı güvenli kılmak istiyorsak, öncül önlemler almayı düşünmeliyiz: daha yavaş teknolojik ilerleme, daha sıkı denetim mekanizmalarının geliştirilmesi ve bağımsız dış denetim yetkilerinin tanınması.

🚨Unutmamalıyız ki gelişmiş yapay zekâların şeffaf ve hesap verebilir olması bir seçenek değil, bir zorunluluktur.