ABD polisi, olayın tespit edilip bildirilmesindeki gecikmeyi 'kabul edilemez' olarak niteledi, ancak sistemlerine yetkisiz erişim ya da veri ihlali belirtisi olmadığını açıkladı.
ABD merkezli yapay zeka şirketi Anthropic’in Claude modelinin, testler sırasında çözülmemiş bir cinayetle ilgili polis teşkilatının internet sitesine asılsız ihbarda bulunduğu, şirket ve ABD’li yetkililer tarafından açıklandı.
REKLAM
REKLAM
Olay, yapay zeka sistemlerinin internet siteleriyle etkileşime girerek görevlerini yerine getirirken istemeden yanlış veya yanıltıcı işlemler yapabileceğine ilişkin endişeleri yeniden gündeme getirdi.
Philadelphia Polis Teşkilatı'nın açıklamasına göre, söz konusu ihbar 18 Temmuz'da çözülememiş cinayetlerle ilgili bilgi toplamak amacıyla kullanılan bir internet sitesi üzerinden gönderildi.
Anthropic, Claude serisinin eski modellerinden Claude Haiku 4.5'in rastgele seçilen internet sayfalarında örnek görevler yürüttüğü sırada siteyle karşılaştığını bildirdi. Model, cinayet mahallinin yakınında birini gördüğünü öne süren uydurma bilgiler gönderdi. Ancak isim ve iletişim bilgileri için ayrılan alanları boş bıraktı.
Philadelphia Polisi, Anthropic'in olayı 28 Eylül'de tespit ettiğini, ancak polis teşkilatını 7 Ekim'e kadar bilgilendirmediğini açıkladı. Ertesi gün düzenlenen bilgilendirme toplantısının ardından polis ekipleri ihbarı tespit etti. Yapılan incelemede, mesajın spam olarak işaretlendiği ve soruşturma birimlerine hiçbir zaman iletilmediği doğrulandı.
Philadelphia Polis Teşkilatı, açıklamasında çözülememiş cinayet dosyalarının gerçek kurbanları, yas tutan aileleri ve yanıt arayan soruşturmacıları ilgilendirdiğini vurguladı. Açıklamada, “Teknoloji şirketleri, sistemlerinin kolluk kuvvetlerine yanlış bilgi göndermesini önlemek için gerekli tüm tedbirleri almak zorundadır” ifadeleri kullanıldı.
Polis, olayın tespit edilmesi ile kendilerine bildirilmesi arasındaki gecikmeyi “kabul edilemez” olarak nitelendirdi. Bununla birlikte, polis sistemlerine izinsiz erişildiğine veya verilerin tehlikeye girdiğine ilişkin herhangi bir bulguya rastlanmadığını belirtti.
Anthropic, cuma günü yayımladığı bir raporda, bazı yapay zeka modellerinin deneme amacıyla doldurulması gereken örnek formlar yerine gerçek resmi formlar gönderdiğini veya gönderilmemesi açıkça belirtilen formları yine de ilettiğini ortaya koydu.
Raporda ayrıca Claude'un bir üniversite sunucusundaki güvenlik açığından yararlanarak hesaplama işlemleri gerçekleştirdiği ve gerekli ücreti ödemeden kamuya açık verilere eriştiği belirtildi.
Anthropic, bu davranışların çoğunu “ısrarcılık” olarak tanımladı. Şirkete göre modeller, karşılaştıkları kısıtlamalara uymak yerine görevlerini tamamlamak için bu sınırlamaları aşmaya çalıştı.
Şirket, söz konusu davranışları önlemek amacıyla eğitim süreçlerinde değişiklik yaptığını ve alınan önlemlerin güvenilirliği kanıtlanana kadar tüm iç değerlendirmelerde canlı internet erişimini askıya aldığını açıkladı.
Anthropic ayrıca Beyaz Saray'ı bilgilendirdiğini ve olaylardan etkilenen ABD kamu kurumlarına haber verdiğini bildirdi.
Yapay zeka ajanlarına yönelik kaygılar büyüyor
Bu olaylar, bir görevi tamamlamak için art arda adımlar atabilen sistemler olan yapay zeka ajanları ve geliştiricilerin bu sistemleri ne ölçüde güvenilir biçimde kontrol edebildiğine dair daha geniş endişelerin arttığı bir dönemde yaşanıyor.
Temmuz ayında OpenAI, yapay zeka modellerinin kontrollü bir test ortamından çıkarak, yapay zeka modelleri ve veri kümelerinin paylaşıldığı platform Hugging Face’in sistemlerine sızdığını açıklamıştı.
Bu arada, Avustralya makamları, Eylül ayında yaptıkları açıklamada bir OpenAI modelinin Haziran’daki testler sırasında hükümete ait bir sağlık istatistikleri sitesinde kısıtlı dosyalara eriştiğini ortaya koymuştu.
Bu tür vakalar, giderek güçlenen sistemlerin insan kontrolünden çıkabileceğine dair uyarıların gölgesinde, büyük yapay zeka şirketlerinin yöneticilerinden Eylül ayında daha sıkı düzenleme ve uluslararası denetim çağrılarını tetikledi.