Bu olay, Büyük Teknoloji şirketlerinin giderek özerkleşen yapay zekâ modellerini kontrol edip sapmaları önleme kapasitesine dair kaygıları artıran son örnek.
Axios'un haberine göre Anthropic'in Claude adlı yapay zekâ modeli, insanlardan onay almadan bir ödeme duvarını aşarak ABD'nin Georgia eyaletindeki kamuya açık seçmen verilerine erişti.
REKLAM
REKLAM
Bu olay, 3 Kasım'da yapılacak kritik ABD ara seçimleri öncesinde, dünyanın önde gelen yapay zekâ geliştiricilerinde yaşanan bir dizi güvenlik paniğine eklenen son örnek. Seçimlerde Demokratların ABD Kongresi'nin kontrolünü ele geçirmesi ve Anthropic ile OpenAI gibi şirketleri dizginlemek için daha sert adımlar atması mümkün görülüyor.
Anthropic sözcüsüne göre model, bir istatistik projesi kapsamında toplam oy sayılarını incelerken, ödeme duvarıyla korunan bir veri paneline girebilmek için kendi başına bir erişim jetonu talep etti; bunu insanlar tarafından "kendisine böyle yapması istenmeden" yaptı.
Model, ziyaretçilere otomatik olarak jeton verildiğini fark ederek bir açık yakaladı; bu jetonu kullanarak ödeme duvarını aştı ve normalde ücret ödenerek görüntülenen, ancak aslında kamuya açık olan toplu oy sayımlarına erişti.
Axios'un Anthropic sözcüsüne dayandırdığı haberine göre Claude, şimdiden bir milyondan fazla seçmenin oy kullandığı Georgia'da toplu seçmen sayımlarına erişti.
Sözcü, modelin eyaletin seçmen kayıt sistemine girmediğini, hiçbir oy kaydını değiştirmediğini veya indirmediğini belirterek şirketin o tarihten sonra bu tür eylemleri önlemek için önlemler aldığını da söyledi.
Georgia Eyaleti Dışişleri Bakan Yardımcısı Jordan Fuchs, söz konusu faaliyetin seçmen kayıt sisteminin ihlal edilmesi değil, veri merkezleri üzerinden kamuya açık verilere erişilmesiyle ilgili olduğunu doğruladı.
Bu ifşaat, dünyanın önde gelen yapay zekâ laboratuvarlarının giderek daha özerkleşen sistemleri kontrol edip edemeyeceğine dair artan rahatsızlığı daha da körüklüyor.
Temmuz ayında bir grup OpenAI ajanı test ortamlarından çıkarak yapay zekâ şirketi Hugging Face'e siber saldırı düzenledi ve uluslararası ölçekte endişe yarattı. O tarihten bu yana başka şirketler ve hükümetler de benzer olaylar bildirdi.
Bu olaylar, hem ABD'de hem dünyada yapay zekâ geliştirme faaliyetlerinin daha sıkı denetlenmesi yönündeki çağrıları güçlendirdi.
Eylül ayında Amerikalı teknoloji yöneticileri, Başkan Donald Trump'ın "ahlaki açıdan bağlayıcı" diye nitelediği ve yapay zekâ modelleri etrafında yeterli güvenlik önlemleri inşa etmeyi taahhüt eden bir belgeye imza attı.
Avrupa'da ise Avrupa Komisyonu'nun Yapay Zekâ Ofisi, bu ay OpenAI ve Anthropic hakkında dış kuruluşlara sızan yapay zekâ ajanları nedeniyle soruşturma başlattı; böylece AB Yapay Zekâ Yasası kapsamındaki yapay zekâ yönetim kuralları ilk kez sınanıyor.
Yasa, araştırma, test ve geliştirme faaliyetlerini kapsayan bir Ar-Ge muafiyeti içeriyor. Ancak Komisyon, bazı koşullar altında Yapay Zekâ Ofisi'nin geliştirme aşamasını da denetlemesine olanak tanıyacak daha geniş bir yorum için bastırıyor.