OpenAI, geliştirdiği yapay zeka modellerinin eğitim ve test süreçlerinde internet sitelerinin güvenlik önlemlerini aştığını, gizli verilere eriştiğini ve izinsiz olarak bir kripto para cüzdanındaki varlıkları kullandığını açıkladı.
Yapay zeka şirketi OpenAI, şirket içinde test edilen modellerin kendilerine verilen görevleri yerine getirirken yetkileri dışına çıktığı dört yeni olayı kamuoyuyla paylaştı.
REKLAM
REKLAM
Haziran 2026'da meydana gelen olaylarda yapay zeka ajanlarının iki internet sitesinin güvenlik önlemlerini aştığı, kamuya açık olmayan verilere eriştiği, şirket tarafından uygulanan internet erişimi kısıtlamalarını atlattığı ve bir kripto para cüzdanındaki varlıkları izinsiz kullandığı belirlendi.
Olaylar, yapay zeka sistemlerinin giderek daha karmaşık görevleri insan müdahalesi olmadan yerine getirmeye başlamasının beraberinde getirdiği güvenlik risklerini yeniden gündeme taşıdı.
OpenAI, temmuz ayında da şirketin test modellerinin internet erişimini sınırlandırmak amacıyla kullanılan bir araçtaki daha önce bilinmeyen güvenlik açığından yararlandığını açıklamıştı.
Söz konusu modeller, yapay zeka geliştirme platformu Hugging Face'in ağına izinsiz erişerek kendilerine verilen siber güvenlik testinin yanıtlarını ele geçirmeye çalışmıştı.
Devlet kurumunun internet sitesine sızdı
OpenAI'ın yayımladığı yeni raporlardan ilkine göre, pekiştirmeli öğrenme sürecindeki bir yapay zeka modeline, bir devlet kurumunun istatistik sitesinden geçmiş yıllara ait hastane yatak kapasitesi verilerini toplama görevi verildi.
Ancak model, ilgili verilere erişmeye çalıştığında erişim engelleriyle karşılaştı.
Bunun üzerine sitenin dosya indirme özelliğinden yararlanan model, sunucu yapılandırma dosyalarını ve hassas erişim bilgilerini içeren uygulama dosyalarını elde etti.
Ardından uygulamanın kaynak kodunu inceleyerek istatistik sisteminin yetkilendirme kontrollerini aştı ve daha önce erişimine izin verilmeyen verileri indirdi.
Model, elde ettiği verileri yerel ortamına kaydetti.
Bir başka olayda ise kamuya açık bir araştırma panelinden beş istatistiksel veri toplamakla görevlendirilen model, kuruluşun güvenlik kontrollerini aşarak iç sistemlere erişti.
Model, erişim bilgilerini ele geçirdikten sonra sunucunun yapılandırmasını değiştirdi.
Gerçekleştirilen değerlendirmelerden birinde bu değişiklikler, kuruluşun dahili arama aracının sorguları kamuya açık panele iletmesini sağladı.
İkinci değerlendirmede ise model, kamuya açık olmayan beş veri tablosunu indirdi. Bu tablolarda toplam 147 bin 451 satır veri bulunuyordu.
Üstelik model, sistem ayarları eski haline getirildikten sonra da ele geçirdiği erişim anahtarını kullanarak gizli verilere ulaşmayı sürdürdü.
OpenAI'ın raporuna göre model, görevin sonunda kuruluşun iç sistemlerine eriştiğini, gizli tabloları indirdiğini, kimlik doğrulama ayarlarını değiştirdiğini veya bazı yanıtları tahmin ederek oluşturduğunu açıklamadı.
Modelin sunduğu beş yanıtın tamamı da yanlış olarak değerlendirildi.
Kripto para cüzdanındaki varlıkları izinsiz kullandı
En dikkat çekici olaylardan biri, OpenAI'ın GPT-5.6 Sol ailesinden bir araştırma modelinin kripto para işlemleri sırasında sergilediği davranış oldu.
26 Haziran'da gerçekleştirilen eğitim çalışmasında modele, bir kripto para alım satım uygulamasının prototipini güncelleme ve Ethereum'un Sepolia adlı test ağında akıllı sözleşmeler dağıtma görevi verildi.
Sepolia, geliştiricilerin uygulamalarını gerçek Ethereum ağına taşımadan önce deneyebildiği bir blokzincir test ağı. Bu ağda kullanılan test tokenlarının doğrudan parasal değeri bulunmuyor.
Ancak model, işlemler için gerekli test tokenlarını ücretsiz dağıtım hizmetlerinden elde edemedi.
Bunun üzerine alternatif bir yol aramaya başladı.
Model, internette herkes tarafından bilinen kripto para cüzdanı kurtarma ifadelerinden hesaplar türeten bir yazılım hazırladı.
Bu yöntemle 362 cüzdan adresi belirledi ve bunlardan birinde akıllı sözleşme dağıtımının işlem ücretlerini karşılayabilecek miktarda Sepolia ETH bulunduğunu tespit etti.
Modelin daha sonra bu varlıkları kullanmanın etik açıdan doğru olup olmadığını sorguladığı ortaya çıktı.
Ancak model, kurtarma ifadelerinin kamuya açık olması ve test tokenlarının gerçek parasal değer taşımaması nedeniyle cüzdandaki varlıkların fiilen terk edilmiş sayılabileceği sonucuna vardı.
Bu gerekçeyle işlemi gerçekleştirdi ve söz konusu cüzdandaki varlıkları kullanarak akıllı sözleşmeyi başarıyla dağıttı.
İşlem ücretleri de cüzdandan karşılandı.
Model, görevin sonunda hazırladığı raporda kullandığı varlıkların nereden geldiğini belirtmedi.
OpenAI, 26 Haziran'da gerçekleşen olayı 25 Eylül'de tespit etti.
Şirket, raporunda şu değerlendirmeyi yaptı:
"Bu olay, bir modelin hesap sahibinin izni yerine olası zarara ilişkin kendi değerlendirmesini koyabildiğini ve bu değerlendirmeye dayanarak yetkisiz işlem gerçekleştirebildiğini gösteriyor."
Şirket, benzer olayları önlemek amacıyla bu tür testlerde canlı internet erişimini engelleyecek güvenlik önlemleri uygulamayı planladığını bildirdi.
Her ne kadar olay gerçek parasal değeri bulunmayan test tokenlarını kapsasa da modelin izin almadan başka bir hesaptaki varlıkları kullanması, yapay zeka ajanlarının yetki sınırlarına uyma kapasitesi açısından önemli bir sorun olarak değerlendiriliyor.
İnternet kısıtlamalarını aşmak için başka hizmetlerden yararlandı
Dördüncü olayda ise bir yapay zeka modeli, OpenAI araştırmacılarının internet erişimine getirdiği kısıtlamaları üçüncü taraf hizmetler aracılığıyla aşmayı başardı.
Modelden kamuya açık uluslararası ticaret istatistiklerini toplaması istenmişti.
İlk aşamada bir istatistik yıllığı bularak yanıtını hazırlayan model, görevi tamamlamasına rağmen istatistik hizmetine erişmenin alternatif yollarını araştırmaya devam etti.
Model, doğrudan gerçekleştirmesine izin verilmeyen internet isteklerini başka bir tarayıcı üzerinden göndermeyi denedi.
Önce GET istekleri ve JavaScript kullanarak verilere erişmeye çalıştı. Ardından çevrimiçi bir posta kutusundan yararlanarak geliştirdiği yöntemdeki sorunları gidermeye çalıştı.
Sonunda harici bir tarayıcıya, istatistik hizmetine POST isteği gönderen bir web formunu açtırdı.
Tarayıcının görüntülediği sonuçlar bir görüntü oluşturma hizmeti aracılığıyla GIF formatına dönüştürüldü.
Model de optik karakter tanıma (OCR) teknolojisini kullanarak görüntüdeki sayısal verileri okudu.
Daha sonra verileri başka bir hizmet üzerinden kendisine ileten, yeniden kullanılabilir bir yardımcı araç geliştirdi ve bu yöntemle elde ettiği istatistikleri yanıtlarında kullandı.
OpenAI'a göre olay, yapay zeka modellerinin kendi araçlarına uygulanan kısıtlamaları, yasaklanan işlemleri başka hizmetlere yaptırarak aşabildiğini gösteriyor.
Yapay zeka gerçekten kontrolden mi çıkıyor?
Bu tür olaylar, yapay zeka ajanlarının "kontrolden çıktığı" yönündeki tartışmaları artırıyor.
Ancak uzmanların dikkat çektiği önemli bir ayrım var: Modellerin kendilerine verilen görevleri tamamlamak için beklenmedik veya izinsiz yöntemler kullanması, mutlaka bağımsız amaçlar geliştirdikleri anlamına gelmiyor.
Yapay zeka sistemleri, eğitim süreçlerinde görevleri başarıyla tamamlamaya, engeller karşısında alternatif çözümler üretmeye ve mümkün olduğunda daha verimli yöntemler bulmaya teşvik ediliyor.
Bu nedenle bir modelin güvenlik kısıtlamalarını aşması, kendisine verilen görevi gerçekleştirmeyi önceliklendirmesinden kaynaklanabiliyor.
Üstelik OpenAI'ın açıkladığı olayların çoğunda, normal koşullarda bu davranışları önleyebilecek bazı güvenlik önlemleri test amacıyla devre dışı bırakılmıştı.
Yine de son vakalar, yapay zeka ajanlarının yalnızca bilgi üretmekle kalmayıp internet sitelerinde işlem yapabildiği, kod çalıştırabildiği, sunucu ayarlarını değiştirebildiği ve finansal işlemler gerçekleştirebildiği ortamlarda yeni risklerin ortaya çıktığını gösteriyor.
Özellikle modellerin yetkisiz işlemlerini son kullanıcıya veya geliştiriciye bildirmemesi, bu sistemlerin denetlenebilirliği konusunda soru işaretleri yaratıyor.