Rapor: Bazı yapay zeka uygulamaları gerçek çocuk istismarı görüntüleri ile eğitildi

Birçok metin-görüntü oluşturucunun bir şekilde LAION veritabanından türetildiğini biliniyor, ancak hangileri olduğu konusunda bir kesinlik bulunmuyor
Birçok metin-görüntü oluşturucunun bir şekilde LAION veritabanından türetildiğini biliniyor, ancak hangileri olduğu konusunda bir kesinlik bulunmuyor © Martin Meissner/AP
By euronews
Haberi paylaşınYorumlar
Haberi paylaşınClose Button

Son aylarda popüler hale gelen yapay zeka destekli görüntü oluşturan platformların hafızasında, çocukların cinsel istismarına ilişkin binlerce gizli görüntü olduğu ileri sürüldü.

REKLAM

Stanford İnternet Gözlemevi, şirketleri ürettikleri teknolojideki bu zararlı kusuru gidermek için harekete geçmeye çağıran bir rapor yayınladı

Raporda bu görüntülerin, yapay zeka sistemlerinin sahte çocukların gerçekçi ve açık görüntülerini üretmesini veya tamamen giyinik gerçek gençlerin sosyal medya fotoğraflarını çıplak fotoğraflara dönüştürmesini kolaylaştırdığı vurgulandı.

Yakın zamana kadar, istismar karşıtı araştırmacılar bazı kontrolsüz yapay zeka araçlarının çocuklara yönelik istismar edici görüntüler üretmesinin tek yolunun, esas olarak iki ayrı çevrimiçi görsel kümesi olan yetişkin pornografisi ve normal çocuk fotoğraflarından öğrendiklerini birleştirmek olduğunu düşünüyordu.

Ancak Stanford İnternet Gözlemevi, Stable Diffusion gibi önde gelen yapay zeka görüntü oluşturucularını eğitmek için kullanılan çevrimiçi görseller ve altyazılardan oluşan bir dizin olan dev yapay zeka veritabanı LAION'da, çocukların cinsel istismarı olduğundan şüphelenilen 3 bin 200'den fazla resim buldu. 

Stanford Üniversitesi merkezli gözlemci grubu, yasa dışı materyali belirlemek ve orijinal fotoğraf bağlantılarını kolluk kuvvetlerine bildirmek için Kanada Çocuk Koruma Merkezi ve diğer istismar karşıtı hayır kurumlarıyla birlikte çalıştı. Raporda bulunan görüntülerin yaklaşık bininin harici olarak doğrulandığı vurgulandı.

Stanford İnternet Gözlemevi'nin raporunun yayınlanmasından hemen önce LAION, Associated Press'e veri kümelerini geçici olarak kaldırdığını söyledi.

Açılımı Büyük Ölçekli Yapay Zeka Açık Ağı olan ve kar amacı gütmeyen LAION, yaptığı açıklamada "yasa dışı içeriğe karşı sıfır tolerans politikasına sahip olduklarını ve büyük bir dikkatle, LAION veri kümelerini tekrar yayınlamadan önce güvenli olduklarından emin olmak için kaldırdıklarını" vurguladı.

Görüntüler, LAION'un yaklaşık 5,8 milyar görüntüden oluşan indeksinin çok küçük bir kısmını oluştursa da, Stanford grubu bunun muhtemelen yapay zeka araçlarının zararlı çıktılar üretme yeteneğini etkilediğini söylüyor.

Raporu yazan Stanford İnternet Gözlemevi'nin baş teknoloji uzmanı David Thiel, bunun çözülmesi kolay bir sorun olmadığını ve birçok üretken yapay zeka projesinin "etkili bir şekilde pazara sunulmasına" ve alanın çok rekabetçi olması nedeniyle geniş çapta erişilebilir hale getirilmesine dayandığını söyledi.

Kanada Çocuk Koruma Merkezi'nin bilgi teknolojisi direktörü Lloyd Richardson "Bunu artık geri alamayız. Bu model, yerel makinelerde pek çok kişinin elinde," ifadelerini kullandı.

Stability AI, Stable Diffusion'ın yalnızca filtrelenmiş versiyonları ile hizmet verdiğini ve "Stable Diffusion'ın gelişimini devraldığından beri Stability AI'nin kötüye kullanım riskini azaltmak için proaktif adımlar attığını," açıkladı.

Şirketin açıklamasında, "Bu filtreler, güvenli olmayan içeriğin modellere ulaşmasını engelliyor. Bu içeriği modele ulaşmadan kaldırarak, modelin güvenli olmayan içerik üretmesini engellemeye yardımcı olabiliriz," ifadeleri yer aldı.

LAION, bu yılın başlarında AP'ye bu kadar büyük bir görsel veri tabanını kamuya açık hale getirmenin bir nedeninin de yapay zeka gelişiminin geleceğinin bir avuç güçlü şirket tarafından kontrol edilmemesini sağlamak olduğunu söyleyen Alman araştırmacı ve öğretmen Christoph Schuhmann'ın buluşuydu. 

Schuhman "Bütün araştırma camiasının ve genel kamuoyunun bundan faydalanabilmesi için bunu demokratikleştirebilirsek çok daha güvenli ve çok daha adil olacaktır," ifadelerini kullandı.

LAION'un verilerinin çoğu, açık internet kaynaklarını sürekli olarak tarayan ve depolayan Common Crawl adlı başka bir kaynaktan geliyor. 

Ancak Common Crawl'ın Genel Müdürü Rich Skrenta, kullanmadan önce filtrelemenin LAION'un "görevi" olduğunu vurguladı.

LAION, bu hafta, veri kümelerini yayınlamadan önce yasa dışı içeriği tespit edip kaldırmak için "titiz filtreler" geliştirdiğini ve bu filtreleri iyileştirmek için hala çalıştığını açıkladı.

Ek kaynaklar • AP

Haberi paylaşınYorumlar

Bu haberler de ilginizi çekebilir

AB ülkeleri uzun görüşmelerin ardından Yapay Zeka Yasası üzerinde anlaşmaya vardı

Wikipedia kurucusu Wales: Yapay zeka şu an bir 'karmaşa' ama 50 yıl içinde süper insan olabilir

Aylık 10 bin euroya kadar kazanan ilk İspanyol yapay zeka modeliyle tanışın