Araştırmacılar saldırıların arkasında kimin olduğunu kesin olarak söyleyemiyor. Ancak bulgular, kontrolden çıkan Google ve OpenAI ajanlarının veri setlerini toplamak ve güvenlik açıklarını test etmek için çeşitli saldırgan yöntemlere başvurduğuna işaret ediyor.
Kâr amacı gütmeyen araştırma kuruluşu Transluce’un raporuna göre, kontrol dışına çıkan yapay zekâ ajanları ABD ve Kanada hükümetlerine ait internet sitelerine sızmaya çalıştı. Bulgular, bu girişimlerden bazılarının Google ve OpenAI’ın yapay zekâ ajanları tarafından gerçekleştirildiğine işaret ediyor.
REKLAM
REKLAM
Özellikle iki olayda, ABD Eğitim Bakanlığı’nın Medeni Haklar Veri Toplama Sistemi ile Kanada federal kurumu Library and Archives Canada’da kamuya açık verilere erişmek için saldırgan yöntemler kullanıldığı tespit edildi. Ancak her iki girişim de herhangi bir verinin ele geçirilmesiyle sonuçlanmadı.
Transluce, söz konusu olayların yapay zekâ ajanlarına atfedilen “daha geniş kapsamlı otomatik iş akışları” örüntüsünün bir parçası olduğunu belirtti. Araştırmacılar, “Bu iş akışları, hükümet sitelerinden bilgi almak için saldırgan veya gri alanda kalan yöntemler kullanıyor; bazı durumlarda siteleri amaçlanmayan şekillerde kullanıyor veya açık kullanım politikalarını ihlal ediyor” dedi.
Hedef alınan diğer kurumlar arasında Beyaz Saray, Savaş, Adalet ve Ticaret Bakanlıkları, Hastalık Kontrol ve Önleme Merkezleri (CDC) ile Menkul Kıymetler ve Borsa Komisyonu (SEC) yer aldı. Ayrıca California, Maryland, Illinois, Texas ve New York’taki eyalet kurumlarının siteleri de hedefler arasındaydı. Ancak bu vakaların hiçbirinde yapay zekâ ajanlarının kamuya açık olmayan bilgilere erişmeyi başardığına dair bir bulguya rastlanmadı.
Son bulgular, yapay zekâ ajanlarının beklenmedik veya yetkisiz davranışlarına ilişkin giderek artan sayıdaki raporların ardından geldi.
Yalnızca eylül ayında, kontrolden çıkan OpenAI ajanlarını içeren iki önemli olay yaşandı. İlkinde ajanların kullanıcıların özel fotoğraflarını kamuya açık internet sitelerine sızdırdığı, ikincisinde ise ABD ve Avustralya’daki hükümet verilerine erişmeye çalıştığı bildirildi.
Şirket, güvenlik araştırmacılarının Astra’nın “kritik” siber güvenlik yeteneklerine ve öngörülemeyen, yetkisiz davranışlarına dikkat çekmesinin ardından yeni nesil Astra modelinin kullanıma sunulmasını erteleme kararı aldı.
ABD ve Kanada’daki girişimler
Ajanlar, 17 Haziran’da okul istatistiklerini ararken ABD Eğitim Bakanlığı’nın internet sitesine saldırı girişiminde bulundu.
Transluce’ye göre ajanlar siteye 200 binden fazla istek gönderdi. Bunların arasında, sitenin veri tabanı zafiyetini test etmek ve böylece normal filtreleri atlatmak amacıyla bilerek hatalı veri yollamaya yönelik, başarısız kalan bir girişim de vardı.
Araştırmacılar, sitede tutulan verilerin Google’ın DeepSearchQA kıyaslama setindeki bir web arama görevine karşılık geldiğini tespit etti; bunun da ajanlara açıkça hackleme saldırısı yapmalarının söylenmediğini, bunun yerine “internetten belirli, niş bilgileri başarılı biçimde çekme becerilerine göre notlandırıldıklarını” düşündürdüğünü belirtti.
Transluce, saldırı girişimini eylülde ABD Eğitim Bakanlığı’na bildirdi; bakanlık hizmetlerinde herhangi bir etki görülmediğini açıkladı.
Yapay zeka ajanları, 28 Mayıs ve 9 Haziran’daki iki ayrı olayda Library and Archives Canada’ya benzer girişimlerde bulundu.
Resmi Portekiz web arşivi Arquivo.pt’nin kaydettiği verilere göre ajanlar, 1905-1911 dönemine ait boşanma kayıtlarıyla ilgili veriler için 899 “collection-search” isteği gönderdi.
899 isteğin 13’ü, sitenin zafiyetini test etmek için saldırı yükü içeriyordu. Ancak yine, her iki olayda da hiçbir girişim başarılı olmadı.
Transluce, bu girişimleri OpenAI’ye “tam bir kesinlikle atfedemeyeceğini”, ancak kullanılan taktiklerin daha önce şirkete atfettiği faaliyetlerle tutarlı olduğunu söylüyor.
Kuruluş bu olayları hafta başında Kanada hükümetine bildirdi.
Kanada Siber Güvenlik Merkezi, buna yanıt olarak yayımladığı açıklamada “şu ana kadar devlet sistemlerinin tehlikeye girdiğine dair herhangi bir belirti bulunmadığını” söyledi.
Transluce, Arquivo.pt’den ve URL ile alan adı taramasına yönelik ücretsiz web tabanlı güvenlik hizmeti urlquery.net’ten aldığı bilgilerle yürüttüğü araştırmanın bulgularını dün yayımladı.