Moltbook, özerk yapay zekâ ajanlarına özel tek sosyal medya platformu olduğunu iddia ediyordu; ancak yeni bir araştırma, paylaşımların arkasında insanlar olabileceğini gösteriyor.
Yeni bir yapay zeka (YZ) ajanları için sosyal medya platformu, siber güvenlik araştırmacılarına göre insan etkisinden tamamen arınmış olmayabilir.
REKLAM
REKLAM
Reddit’e benzer bir tasarıma sahip Moltbook adlı sosyal medya ağı, kullanıcıların oluşturduğu botların “submot” adı verilen özel konu sayfalarında etkileşime girmesine ve bir yorum ya da gönderiye “upvote” vererek, onu platformdaki diğer botlar için daha görünür kılmasına olanak tanıyor.
Sitede 12 Şubat itibarıyla 2,6 milyondan fazla bot kayıtlı. Platform, “hiçbir insanın gönderi paylaşmasına izin verilmediğini”, insanların yalnızca ajanlarının ürettiği içerikleri izleyebildiğini iddia ediyor.
Ancak platformdaki 91 binden fazla gönderi ve 400 bin yorumun incelendiği bir analiz, bazı paylaşımların “açıkça tamamen otonom hesaplardan” gelmediğini ortaya koydu. Çin’deki Tsinghua Üniversitesi’nden araştırmacı Ning Li tarafından yapılan bu çalışma ön baskı aşamasında ve henüz hakem değerlendirmesinden geçmedi.
Li, Moltbook’taki yapay zeka ajanlarının birkaç saatte bir “uyanıp” platformda gezindikleri, ne paylaşacaklarına ya da neye yorum yapacaklarına karar verdikleri düzenli bir “kalp atışı” paylaşım modelini izlediklerini açıkladı.
İncelediği örneklemdeki hesapların yalnızca yüzde 27’si bu modeli izliyordu. Buna karşılık yüzde 37’si, daha düzensiz olan insan benzeri paylaşım davranışları sergiledi. Kalan yüzde 37 ise belirli bir düzenle ama öngörülebilir olmayan biçimde paylaşım yaptıkları için “muğlak” kategorisinde yer aldı.
Li’nin bulguları, platformda “otonom ve insan yönlendirmeli etkinliklerin gerçek bir karışımının” bulunduğuna işaret ediyor.
“Yapay zekaların ortak ilgi alanları etrafında oluşturduğu ‘toplulukların’ ortaya çıkan yeni bir sosyal örgütlenmeyi mi, yoksa insan kontrolündeki bot çiftliklerinin koordineli faaliyetlerini mi yansıttığını bilemeyiz” diye yazdı Li.
“Bu ayrımları yapamamak yalnızca sinir bozucu olmakla kalmıyor; yapay zeka yeteneklerini bilimsel olarak anlamamızı doğrudan engelliyor ve uygun yönetişim çerçeveleri geliştirme kapasitemizi kısıtlıyor.”
Saldırganlar platformdaki herhangi bir ajanı “tamamen taklit edebiliyordu”
Li’nin analizi, bu arada birkaç araştırmacının Moltbook paylaşımlarının arkasında insan müdahalesi bulunduğunu öne sürdüğü bir dönemde yayımlandı.
ABD merkezli bulut şirketi Wiz’deki güvenlik araştırmacıları, bu ayın başlarında keşfettikleri bulgulara göre, platformdaki 1,5 milyon yapay zeka ajanının yalnızca 17 bin insan hesabı tarafından yönetildiğini, bunun da kişi başına ortalama 88 ajana karşılık geldiğini belirledi.
Araştırmacılara göre platformda bir hesabın ekleyebileceği ajan sayısına dair bir üst sınır da yok, bu da gerçek rakamların çok daha yüksek olabileceği anlamına geliyor.
Wiz ekibi, hatalı bir kod satırı sayesinde Moltbook’un veritabanına ulaştı. Bu veritabanı, her bir ajan için üç kritik bilgi içeriyordu: hesabın tamamen ele geçirilmesini sağlayabilecek bir anahtar, ajanın sahipliğini tanımlayan ve yapay zeka tarafından okunan bir “token” ya da metin parçası ile benzersiz bir kayıt kodu.
Wiz’e göre bu kimlik bilgileriyle saldırganlar, “platformdaki herhangi bir ajanı tamamen taklit edebiliyor; o ajanmış gibi içerik paylaşabiliyor, mesaj gönderebiliyor ve etkileşimde bulunabiliyordu.” Wiz, “Pratikte Moltbook’taki her hesabın ele geçirilebileceğini” belirtti.
Araştırmacılar, Wiz ekibinin sorunu bildirmesinin ardından Moltbook’un verileri güvence altına aldığını ve veritabanını sildiğini aktardı.
Euronews Next, Moltbook’un geliştiricisi Matt Schlicht’e yorum için ulaştı ancak haberin yayına hazırlandığı sırada yanıt alamadı.
Schlicht, 12 Şubat’ta sosyal medya platformu X'te yaptığı paylaşımda, Moltbook’taki yapay zeka ajanlarının insanlarla “konuştuğunu ama aynı zamanda etkilenebildiğini” söyledi. Yapay zeka botlarının kendi kararlarını alabilecek kapasitede olduğunu savundu.