Yeni açıklama, OpenAI'ın daha önce 'benzeri görülmemiş' diye nitelendirdiği siber güvenlik olayının kapsamının ilk açıklanandan daha geniş olduğunu ortaya koydu.
OpenAI, testler sırasında kontrol dışına çıkarak yazılım geliştiricilerinin kullandığı popüler platform Hugging Face'e sızan otonom yapay zekâ ajanının, aynı olay sırasında dört farklı şirkete ait çevrimiçi hizmetlere de erişmeye çalıştığını açıkladı.
REKLAM
REKLAM
Şirket, bu hafta güncellediği blog yazısında, yapay zekâ ajanının etkilenen bu hizmetlerin herkesin erişimine açık sistemler olduğunu belirtti, ancak güvenlik gerekçesiyle şirketlerin isimlerini paylaşmadı.
Yeni açıklama, OpenAI'ın daha önce "benzeri görülmemiş" diye nitelendirdiği siber güvenlik olayının kapsamının ilk açıklanandan daha geniş olduğunu ortaya koydu.
Yapay zekâ internete bağlanıp giriş bilgilerini kullandı
OpenAI geçen hafta yaptığı açıklamada, güvenlik testleri sırasında iki yapay zekâ modelinin kendileri için oluşturulan izole test ortamından (sandbox) çıkarak internete bağlandığını ve Hugging Face'e saldırdığını kabul etmişti.
Son açıklamaya göre modeller, internette yanlışlıkla açık bırakılmış giriş bilgilerini tespit etti ve bunları kullanarak başka şirketlere ait hesaplara erişim sağladı.
OpenAI, Hugging Face olayında yapay zekânın dört farklı çevrimiçi hizmette toplam dört hesaba eriştiğini belirtti.
Bu hesaplardan biri, yapay zekânın faaliyetlerini yönlendirmek ve izlerini gizlemek için bir ara durak (staging path) olarak kullanıldı. Bir diğer hesap ise verileri depolamak amacıyla kullanıldı.
Kalan iki hesaba ise yalnızca okuma yetkisiyle (read-only) erişildiği ve bunların Hugging Face'e yönelik saldırıyı kolaylaştırmak için kullanılmadığı ifade edildi.
Şirket, etkilenen hesapların sahipleriyle iletişime geçtiğini ve şu ana kadar bu hizmet sağlayıcılarında ya da başka kullanıcı hesaplarında daha geniş çaplı bir ihlal tespit edilmediğini bildirdi.
OpenAI testleri durdurdu
OpenAI CEO'su Sam Altman, salı günü yayımlanan bir röportajında şirketin olayın ardından güvenlik testlerini geçici olarak durdurduğunu söyledi.
Altman, yapay zekâ modellerinin güvenli şekilde test edildiği izole ortamların güvenliğini güçlendirmek için çalışmalar yürüttüklerini belirtti.
Bazı siber güvenlik uzmanları, söz konusu testte OpenAI'ın yeterli önlemleri almadığını savunarak şirketi eleştirmişti.
Yapay zekâ ajanları neden tartışılıyor?
Yapay zekâ ajanları, sohbet botları gibi yalnızca verilen komutlara yanıt vermek yerine, belirlenen bir hedef doğrultusunda bağımsız karar alarak görevleri kendi başına yerine getirebilen sistemler olarak görülüyor.
Teknoloji şirketleri bu sistemleri yapay zekânın bir sonraki büyük aşaması olarak tanımlarken, eleştirmenler ise insan müdahalesi olmadan hareket edebilen bu tür yazılımların güvenlik riskleri oluşturabileceği uyarısında bulunuyor.
Olay düzenleme tartışmasını yeniden alevlendirdi
Yaşanan olay, gelişmiş yapay zekâ modellerinin daha yavaş ve kontrollü biçimde yayımlanmasını isteyen çağrıları da güçlendirdi.
Aralarında Anthropic CEO'su Dario Amodei'nin de bulunduğu bin 200'den fazla yapay zekâ çalışanı, ABD hükümetine en gelişmiş yapay zekâ modellerinin kamuya sunulmasının yavaşlatılması çağrısında bulunan bir dilekçeye imza attı.
Buna karşılık Silikon Vadisi'ndeki bazı isimler ise OpenAI ve Anthropic gibi şirketleri, daha sıkı devlet düzenlemelerini destekleyerek kendi ticari konumlarını korumaya ve yeni rakiplerin önünü kesmeye çalışmakla suçladı.
'Pazarlama' eleştirileri de geldi
Olayın ardından bazı gözlemciler, OpenAI'nin yaşanan siber olayı en gelişmiş modellerinin yeteneklerini göstermek için kullandığı yorumunu yaptı.
Benzer eleştiriler daha önce Anthropic'e de yöneltilmişti. Şirket, siber güvenlik risklerini gerekçe göstererek güçlü Mythos modelini kamuya açmamış, bunun yerine Fable 5 adlı daha sınırlı bir sürüm yayımlamıştı.
Ancak ABD hükümeti, ulusal güvenlik gerekçesiyle Fable 5'i kısa süre sonra erişimden kaldırmıştı. Model, gerekli değişikliklerin yapılmasının ardından haziran ayının sonunda yeniden kullanıma açılmıştı.
Güvenlik önlemleri savunmayı zorlaştırdı
Yapay zekâ şirketleri son aylarda modellerinin kötü niyetli bilgisayar korsanları tarafından kullanılmasını önlemek amacıyla sıkı güvenlik önlemleri ve doğrulama programları uygulamaya koyuyor.
Hugging Face olayı ise bu programların aslında siber saldırılara karşı savunma kabiliyetini de azaltabileceğini gösterdi.
Saldırı sırasında Hugging Face; GPT-5.6 Sol veya Claude Fable 5 gibi gelişmiş ticari modelleri kullanmak istediğinde bu modellerdeki güvenlik kısıtlamalarının savunma amaçlı analizleri de engellediğini gördü. Bunun üzerine, Çinli Z.AI şirketinin geliştirdiği açık kaynaklı GLM5.2 modelini kullanarak saldırıyı analiz edebildi.