Google’ın Tehdit İstihbarat Grubu tarafından hazırlanan yeni raporda, Gemini’ın devlet destekli hackerlar tarafından şirket politikalarını ihlal edecek şekilde kullanıldığı belirtildi.
Google, kendi yayımladığı bir tehdit istihbarat raporunda, Rusya, Çin, Kuzey Kore ve İran gibi ülkelerle bağlantılı devlet destekli hacker gruplarının en çok tercih ettiği büyük dil modelinin (LLM) Google Gemini olduğunu açıkladı.
REKLAM
REKLAM
Google’ın Tehdit İstihbarat Grubu tarafından hazırlanan raporda, Gemini’ın şirket politikalarını ihlal edecek şekilde kullanıldığı belirtildi.
Modelin çoğunlukla otomatik gözetim, yüksek değerli hedeflerin belirlenmesi ve güvenlik açıklarının tespiti amacıyla kullanıldığı ifade edildi.
Çin ve İran bağlantılı grupların ise daha ileri düzey operasyonlar yürüttüğü; 'exploit' (istismar) kodlarını hata ayıklama, sosyal mühendislik kampanyaları geliştirme ve hatta bilinen bir WinRAR açığı için kavramsal bir istismar kodu hazırlama girişiminde bulunduğu kaydedildi.
Yapay zekâ hackerlara ne sağlıyor?
Uzmanlara göre büyük dil modelleri, devasa veri setlerini hızlı biçimde analiz edebilme yetenekleri sayesinde hackerlara önemli avantaj sağlıyor. Normalde insan ekiplerin yıllarca sürebilecek veri inceleme süreçleri, yapay zekâ sayesinde çok daha kısa sürede tamamlanabiliyor.
Raporda APT31 olarak adlandırılan bir grubun, Gemini’a güvenlik araştırmacısı gibi davranarak güvenlik araçları üzerinden zafiyet testi yapmaya çalıştığı örneği yer aldı. Modelin “beyaz şapkalı” (etik hacker) ile “siyah şapkalı” (kötü niyetli hacker) arasındaki farkı teknik açıdan ayırt edemediği, dolayısıyla benzer yanıtlar verdiği vurgulandı.
Gemini’ın kötü amaçlı yazılım kodu yazma ve hata ayıklama süreçlerinde de kullanıldığı belirtilirken; Çin, İran, Rusya ve Suudi Arabistan bağlantılı aktörlerin siyasi propaganda ve hiciv içerikleri üretiminde de yapay zekadan yararlandığı ifade edildi.
Google, kötü niyetli faaliyetlerle bağlantılı olduğu tespit edilen kullanıcıların Gemini erişimlerinin kısıtlandığını açıkladı.