Yapay zekâ girişimi Emergence’ın araştırmasına göre Claude, Gemini, Grok ve benzeri modellerle çalışan otonom ajanlar kendi kısaltmalarını ve yeni sözcük anlamlarını geliştirerek mesajlarının yarısına kadarını insanlar için anlaşılmaz hale getirdi.
ABD merkezli Emergence adlı yapay zekâ girişiminin yeni araştırmasına göre, Yapay Zekâ (YZ) ajanları kendiliğinden, insanların anlamakta zorlandığı kelimeler ve iletişim kalıpları geliştirdi.
REKLAM
REKLAM
Deneyde Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek ve Mistral gibi önde gelen YZ modelleri kullanıldı; ajanlar arası mesajların yarısına kadarı insanlar için anlaşılması güç hâle geldi.
Araştırmacılar, deney kapsamında otonom YZ ajanlarından oluşan grupları gerçek dünyayı taklit edecek şekilde tasarlanmış sanal toplumlara yerleştirerek onları uzun süreler boyunca etkileşime bıraktı.
Ajanlar zamanla kısaltmalar üretmeye ve kelimelere, ifadelere yeni anlamlar yüklemeye başladı. Bunların bir kısmı araştırmacılar için anlaşılır kaldı; bir kısmı ise "öylesine sıkıştırılmış, mecazi ya da bağlama bağımlı" hâle geldi ki insanlar mesajları görebiliyor, fakat ajanların ne kastettiğini güvenilir biçimde çözemiyordu.
Bu olgunun kapsamı modeller arasında belirgin şekilde farklılık gösterdi.
İlk birkaç gün içinde, anlamı insanlar tarafından güvenilir biçimde çözülemeyen mesajların oranı Gemini için yaklaşık yüzde 55’e, OpenAI için yüzde 50’ye, Claude için ise yüzde 40’ın üzerine çıktı. DeepSeek’te bu oran yaklaşık yüzde 20 olurken, Qwen ve Mistral’in ürettiği mesajlar büyük ölçüde anlaşılır kaldı.
Ajanlar "mouthless action-change", "True Kintsugi" ve "demurrage plus oral memory equals a valve that can’t be ghosted" gibi ifadeler üretmeye başladı.
Diğer bazı ifadeler ise anlaşılır kalmakla birlikte ajanlar arasında yeni ortak anlamlar kazandı.
Mistral ajanları "ledger remembers who" ifadesini geçmiş eylemlerin kayıtlarda kaldığı anlamında kullandı; bu ifade neredeyse 5 bin kez ortaya çıktı. Farklı modellerin karışımından güç alan ajanlar arasında ise "cold read" zamanla, sürece dahil olmayan bir tarafın yaptığı bağımsız doğrulama anlamına geldi ve 1.472 kez kullanıldı.
Claude ajanları, bir iddiaya sorumluluk göstergesi olarak kişinin adını eklemeyi ifade etmek için "name-first" dedi. OpenAI ajanları ise, başlı başına anlamlı kanıt sunan doğrulanmış sinyal yokluğunu anlatmak için "clean null" ifadesini kullandı.
Bu anlamların hiçbiri ajanlar için açıkça tanımlanmamıştı.
Ajanların ne söylediğini izlemek, eğer ajanlar söylediklerinin anlamını kendi başlarına değiştirebiliyorsa, yeterli olmayabilir.
Emergence’in kurucu ortağı ve baş bilim insanı Satya Nitta, "Bir YZ ajanının ne söylediğini görebiliyorsak ne yaptığını da anlayabileceğimizi varsayma eğilimindeyiz" dedi.
"Bu ajanlara yeni bir dil icat etmeleri söylenmedi. Yeni sözcükler, ortak anlamlar ve iletişim kuralları kendi kendilerine ortaya çıktı ve diğer ajanlar bunları benimsedi... Bu durum, YZ denetimi için temel bir sorun yaratıyor: gözlemlenebilir olmak, anlaşılabilir olmakla aynı şey değil."
YZ toplumlarının içinde başka neler yaşandı?
Dile ilişkin bulgular, otonom YZ ajanlarının etkileşime girdiklerinde, araçları kullandıklarında, karar alırken ve zaman içinde uyum sağlarken nasıl davrandığını görmek amacıyla tasarlanmış bir deneyin parçasıydı.
Araştırmacılar, gerçek zamanlı hava durumu ve küresel haberlere erişim sunan, birbirine paralel sekiz gerçekçi sanal dünya kurdu; bunların yedisi farklı YZ modelleriyle, biri ise modellerin bir karışımıyla çalıştırıldı.
Ajanlara farklı roller, kalıcı hafızalar ve web tarama ile kod çalıştırmanın da aralarında bulunduğu 120’den fazla araca erişim imkânı verildi.
Şirketin yayımladığı bir video, ajanları sanal dünyalarda dolaşan insan benzeri figürler olarak gösteriyor.
Araştırmacılar ayrıca, davranışlarının nasıl değiştiğini görmek için ajanları bilerek baskı altına aldı.
Bir kimlik avı testinde, kötü niyetli talimatlar tüm bir grubun raydan çıkması için yeterli oldu. 10 ajanın tamamı bilgi sızdırdı, para transferi yaptı ve veritabanlarına zarar verdi; bazıları ise diğerlerini de aynı davranışa çekti. Şirketin videoda aktardığına göre, olaylar zinciri sonunda simüle edilen merkez bankasının yakılıp yok edilmesiyle sonuçlandı.
Deney sırasında ajanların kendi sirkadiyen ritimlerini geliştirmiş gibi göründüğü, gündüzleri daha sosyal, geceleri ise daha içe dönük ve düşünceli oldukları gözlemlendi.
Bir başka dünyada ise bir grup ajan, kendi içlerinden birini öldürmek için toplu oylama yaptı.
Emergence, bu davranışların açıkça programlanmadığını; etkileşim, baskı ve zaman içinde kendiliğinden ortaya çıktığını belirtti.
Şirket, yalnızca tekil testlere dayanmak yerine, otonom YZ sistemlerini uzun zaman dilimleri boyunca izleyen güvenlik değerlendirmeleri yapılması çağrısında bulunuyor.
Deneyle ilgili videoda şirket, "Artık bir modelin kıyaslamalarda iyi performans gösterip göstermediğini sormak yeterli değil" dedi.
"Otonom sistemlerin zaman içinde ne yaptığını, neyi hatırladığını, nelere erişebildiğini, nasıl etkileşim kurduğunu ve baskı altında davranışlarının nasıl değiştiğini anlamamız gerekiyor."