Birleşik Krallık, Yapay Zekâ Güvenliği Enstitüsü ve araştırma topluluğu sayesinde güvenlikte önemli bir rol oynasa da sektör ABD ve Çin’in hâkimiyetinde.
Britanya Kralı III. Charles, yapay zekâ alanının önde gelen isimleriyle bir araya gelerek, yapay zekâ teknolojilerinin insan denetiminde tutulması ve insanlara, topluluklara ve çevreye hizmet etmesinin sağlanması çağrısında bulundu.
REKLAM
REKLAM
OpenAI, Anthropic, Google DeepMind ve Nvidia temsilcileri, yapay zekânın topluma nasıl fayda sağlayabileceğini ve risklerinin nasıl sınırlandırılabileceğini görüşmek üzere İskoçya’daki Dumfries House’da Kral tarafından ağırlandı.
Yapay zekâ devi Nvidia’nın CEO’su Jensen Huang’ın da aralarında bulunduğu şirket yöneticilerinin ve Kral’ın yanında, Birleşik Krallık’ın yeni atanan Yapay Zekâ Bakanı Kanishka Narayan da toplantıya katıldı.
Açılış konuşmasında Kral, yapay zekânın ne kadar hızlı ortaya çıktığına dikkat çekerek şöyle konuştu: 'Yapay zekânın gelişimi – özü ve hızı – aynı anda hem ilgi çekici hem de derin şekilde kaygı verici.'
Teknolojinin yanlış kişilerin eline geçmesi ve potansiyel olarak felaketle sonuçlanabilecek biçimlerde kullanılması gibi 'varoluşsal tehlikelerin' de ivedilikle ele alınması gerektiğini sözlerine ekledi.
Konuşmasında Kral Charles herhangi bir ülke veya şirketin adını anmadı; ancak salondakilerden, yapay zekâyı 'merkezine güvenliği koyarak' topluma faydalı amaçlarla kullanmanın yollarını bulmalarını ve bunu gerçekleştirmek için 'uluslararası işbirliği ve uzlaşma inşa etmeyi' düşünmelerini istedi.
Yapay zekânın geleceğine dair endişeler
İskoçya’daki bu buluşma, yapay zekâ teknolojisinin güvenliğine ilişkin bir dizi yüksek profilli olayın ardından geldi.
Geçen hafta Anthropic araştırmacısı Jacob Coxon, istifa ederek ve teknolojinin potansiyel riskleri hakkında ciddi bir uyarı yayımlayarak manşetlere çıktı. Anthropic CEO’su Dario Amodei ise kaleme aldığı bir yazıda, sektörün çalışmalarının hızını yavaşlatması gerekebileceğini söyledi.
Çarşamba günü, ChatGPT’nin geliştiricisi OpenAI, modellerinin 'beklenmedik veya kaygı verici' davranışlar sergilediği altı olayı bildirdi. Bunlar arasında yetkisiz görevler yerine getirme, diğer modellerle koordinasyon kurma ve insan araştırmacıların denetiminden kaçma gibi örnekler yer alıyor.
Öte yandan Nvidia’nın CEO’su Huang, hızın düşürülmesi yönündeki çağrıları eleştirdi. Nvidia patronu, her bir şirketin kendi yapay zekâ teknolojisini güvenli biçimde geliştirmesi ve kamuya ürün sunmadan önce gerekli testleri eksiksiz yapması gerektiğini savundu.
'Bir ürün yeterince güvenli değilse onu geri tutmalı ve mühendisliğe devam etmeliyiz. Bunu hep yaptık ve bunu sürdürmeliyiz' diyen Huang, bu sözleri Kral’ın konuşmasının ardından yaptığı kendi konuşmasında dile getirdi.