Perşembe günü kullanıma sunulan 'Create Image' (Görsel Oluştur) aracı, Google'ın Nano Banana 2 adlı yapay zekâ modelini Google Earth'e entegre ederek kullanıcıların uydu, hava fotoğrafı ve üç boyutlu harita verileri üzerinde saniyeler içinde yeni görüntüler oluşturmasına olanak tanıyordu.
Google, Google Earth'e eklediği yapay zekâ destekli görsel oluşturma özelliğini, sahte uydu görüntülerinin kolayca üretilebildiğinin ortaya çıkmasının ardından geri çekti. Şirket, daha güçlü güvenlik önlemleri geliştirilene kadar özelliğin kullanımdan kaldırıldığını açıkladı.
REKLAM
REKLAM
Perşembe günü kullanıma sunulan "Create Image" (Görsel Oluştur) aracı, Google'ın Nano Banana 2 adlı yapay zekâ modelini Google Earth'e entegre ederek kullanıcıların uydu, hava fotoğrafı ve üç boyutlu harita verileri üzerinde saniyeler içinde yeni görüntüler oluşturmasına olanak tanıyordu.
Google, bu özelliği tarihi mekânları canlandırmak, gayrimenkul projelerini arazi yapısına göre görselleştirmek ve benzeri yaratıcı kullanım alanları için geliştirdiğini duyurmuştu. Ancak araştırmacılar, aracın güvenilir bir doğrulama kaynağı olarak kullanılan Google Earth'ü dezenformasyon üretimi için de kullanılabilir hale getirdiği uyarısında bulundu.
Bağımsız dijital araştırmacı Henk van Ess, özelliğin son derece basit komutlarla gerçekçi görünen sahte uydu görüntüleri oluşturabildiğini gösterdi. Van Ess'in denemelerinde, İran'a bir nükleer santral eklemek, ABD-Meksika sınırına mülteci kalabalıkları yerleştirmek ya da Amsterdam'da ölümcül bir trafik kazasını gösteren sahneler üretmek mümkün oldu.
404 Media'nın yaptığı testlerde ise Los Angeles'a bir evsiz kampı ve bomba krateri eklenebildiği bildirildi.
AFP'nin yaptığı bağımsız testlerde de araç; Paris'te bir patlama, İran'da hayali bir nükleer tesis, Rusya'da bomba krateri ve Suriye'de IŞİD eğitim kampı gibi gerçekte var olmayan görüntüler oluşturdu. Bunun yanı sıra Bangladeş'i sular altında gösteren sahneler, ABD-Meksika sınırında göçmen kampı ve ABD'nin Georgia eyaletinde seçim sahtekarlığı iddialarını çağrıştırabilecek şüpheli bir depo gibi tamamen kurgu görüntüler de üretilebildi.
'20 yılda oluşturulan güveni tek tuşla zedeledi'
Google Earth, yıllardır gazeteciler, açık kaynak istihbaratı (OSINT) araştırmacıları, doğrulama kuruluşları ve akademisyenler tarafından uydu görüntülerinin doğrulanması amacıyla kullanılan temel araçlardan biri olarak kabul ediliyor.
Van Ess, Substack'te yayımladığı değerlendirmede, "Google, dünyanın doğrulama için başvurduğu referansı oluşturmak için 20 yıl harcadı. Bugün ise olmayan şeyleri üreten bir düğme ekledi," ifadelerini kullandı.
Amerikan Girişim Enstitüsü'nde (AEI) uydu görüntüleri üzerine çalışan araştırmacı Brady Africk de AFP'ye yaptığı açıklamada, güncellemenin "ikna edici sahte uydu görüntülerinin çok daha kolay üretilmesine ve hızla yayılmasına yol açacağını" söyledi.
Africk'e göre bu tür içerikler yalnızca kamuoyunu yanıltmakla kalmaz, aynı zamanda uydu görüntülerine duyulan güveni de aşındırarak gazeteciler ve araştırmacıların işini zorlaştırabilir.
Dünyadaki çatışma bölgelerinden gelen görüntüleri doğrulayan gönüllü OSINT ağı GeoConfirmed da Google'a özelliği geri çekme çağrısı yaptı. Grup, kullanıcıların askeri tesisler oluşturmak, binaları okul gibi yeniden etiketlemek ve bilgi ortamını manipüle etmek amacıyla aracı kullanmaya başladığını belirtti.
Google: 'Daha güçlü güvenlik önlemleri geliştiriyoruz'
Eleştirilerin ardından Google, özelliği geçici olarak durdurduğunu açıkladı.
Şirket sözcüsü AFP'ye yaptığı açıklamada, "Bu özelliği birçok faydalı amaç için kullanan coğrafi bilgi uzmanları gördük. Ancak aynı zamanda politikalarımızı ihlal ediyor gibi görünen oluşturulmuş görüntülerin ekran görüntülerinin paylaşıldığını da gördük. Daha güçlü güvenlik önlemleri uygulayana kadar bu özelliği Google Earth'ten geri çekiyoruz," dedi.
Açıklamada ayrıca, "İnsanların Google Earth'e dünyanın güvenilir bir görünümü olarak benzersiz bir güven duyduğunu biliyoruz," ifadelerine yer verildi.
Google daha önce, oluşturulan tüm görsellerin yapay zekâ ile üretildiğini gösteren görünmez SynthID dijital filigranı taşıdığını ve yanlış bilgilendirmeyi ciddiye aldığını savunmuştu. Ancak bu filigran çıplak gözle görülemiyor ve doğrulanabilmesi için Google Lens veya Gemini gibi ek araçların kullanılması gerekiyor. Görsellerde bulunan görünür Gemini filigranının ise kolaylıkla kırpılarak kaldırılabildiği belirtiliyor.
Van Ess ayrıca, Google'ın "zararlı konularda görsel üretimini engellediği" yönündeki açıklamasına rağmen yaptığı denemelerde hiçbir istemin reddedilmediğini söyledi.
Daha önce piyasalara etki etmişti
Yapay zekâ ile üretilen sahte görseller geçmişte de ciddi sonuçlar doğurmuştu. 2023'te Pentagon'da patlama yaşandığını gösteren sahte bir yapay zekâ görseli kısa süreliğine finans piyasalarında dalgalanmaya neden olmuştu.
ABD ile İran arasındaki savaşın ilk günlerinde ise ABD'ye ait bir askeri üssün imha edildiğini gösteren yapay zekâ ile değiştirilmiş uydu görüntüsü sosyal medya platformlarında milyonlarca kez görüntülenmişti.
Google Earth'teki yeni özelliğin geri çekilmesinin ardından, şirketin daha sıkı içerik filtreleri ve güvenlik mekanizmaları geliştirdikten sonra aracı yeniden kullanıma sunup sunmayacağı ise henüz bilinmiyor.