OpenAI ve Anthropic, ABD öğretmenler sendikasıyla güvenlik ve gizlilik anlaşmaları görüştüklerini açıkladı. Ancak okullarda eğitim teknolojisinde baskın Google, benzer güvenceler sunmayı düşünüp düşünmediğini söylemedi.
Microsoft, yapay zekâ ve ekran süresine yönelik artan tepki ortamında, ülkenin en büyük ikinci öğretmenler sendikasıyla vardığı anlaşma doğrultusunda, Amerika Birleşik Devletleri'ndeki okullarda kullandığı yapay zekâ için koruyucu önlemler ve gizlilik standartları getiriyor.
REKLAM
REKLAM
Geçen hafta imzalanan anlaşma (kaynak İngilizce), yapay zekâ arkadaşlarının ya da özelliklerinin kullanılmasını yasaklıyor; bunlar arasında, “duygusal bağlılık ya da bağımlılık yaratmak üzere tasarlanan” veya öğrencileri bir öğrenme görevinin gerektirdiğinden daha uzun süre meşgul tutmayı amaçlayan özellikler de bulunuyor.
Standartlar hukuken bağlayıcı ve uyumu denetlemek için üçüncü taraf denetimleri öngörüyor.
Kapsamlı anlaşmanın bir parçası olarak Microsoft, öğrencilerden ve eğitimcilerden topladığı verileri, öğrencileri korumaya yardımcı olabilecek dar bir istisna dışında, yapay zekâ sistemlerini eğitmek için kullanmayacağını belirtiyor. Toplanan verilerin satılamayacağını, reklam amaçlı ya da ürün geliştirme için kullanılamayacağını vurguluyor.
Anlaşma ayrıca, şirketin araçlarının nasıl çalıştığını ve hangi verileri topladığını ailelere sade bir dille açıklamasını zorunlu kılan denetim ve şeffaflık önlemleri içeriyor.
Microsoft'un başkan yardımcısı ve başkanı Brad Smith, yaptığı açıklamada, “Bu standart, çocukların gizliliği ve yapay zekâ güvenliği için yüksek bir çıta koyuyor ve bu anlaşmayı ülke genelindeki tüm okul bölgelerine yayacağız” dedi.
Şirkete göre standartlar, 1 Kasım'dan itibaren ABD genelinde Microsoft'un okullarla yaptığı sözleşmeler için geçerli olacak.
Avrupa sınıflarında yapay zekâya fren gerekiyor mu?
Yapay zekâ şimdiden Avrupa sınıflarına girmeye başladı.
Avrupa Komisyonu'nun bir çalışması (kaynak İngilizce), Finlandiya, Almanya, İrlanda, Lüksemburg ve İspanya'daki ortaöğretim okullarında erken benimseyenler üzerinde yaptığı incelemede, öğrencilerin üretken yapay zekâyı zor konuları açıklatmak, becerilerini geliştirmek ve sınavlara hazırlanmak için kullandığını ortaya koydu.
Bazı Avrupa hükümetleri, küçük yaş gruplarının kullanımına şimdiden sınırlar çiziyor.
Norveç, bu yıl yaptığı açıklamada, yaklaşık 6 ila 12 yaşındaki çocukların okul ödevleri için genel olarak kendi başlarına üretken yapay zekâ kullanmaması gerektiğini, 13 ila 15 yaş grubunun ise temkinli biçimde denemelere başlayabileceğini söyledi.
Fransa, ilkokul çağındaki öğrencilerin yapay zekâ hakkında bilgi edinmesine izin veriyor ancak üretken yapay zekâyı doğrudan kullanmamaları gerektiğini belirtiyor. Sınıf içinde öğretmen gözetiminde kullanım, yaklaşık 13 ya da 14 yaşından itibaren başlayabiliyor.
Euronews'ün gördüğü bir belge, Avrupa Komisyonu'nun, perşembe günü yayımlanacak bir yasa teklifinde, yapay zekâ sohbet robotları gibi riskli çevrimiçi hizmetlerin 15 yaş altına yasaklanmasını önereceğini gösteriyor.
OpenAI ve Anthropic benzer güvenceler için görüşüyor
Uzmanlar, ABD'deki anlaşmada yer alan güvenlik hükümlerinin anlamlı olduğunu söylerken, daha güçlü güvencelerin, okullarda yapay zekânın daha fazla kullanılması için otomatik bir onay olarak görülmemesi gerektiği konusunda uyarıyor.
ABD merkezli çevrimiçi güvenlik kuruluşu Fairplay'in icra direktörü Josh Golin, “Böylesine dikkat çeken bir çerçevenin yanlış anlaşılmasından ve okulların, 'Veri gizliliği ve güvenliği konusunda iyi iş çıkarıyorlarsa, bu aracı kullanmalıyız' diye düşünmesinden endişe ediyorum” dedi.
Golin, standartların ancak diğer büyük yapay zekâ şirketlerinin de bunları kabul etmesi halinde etkili olacağını söylüyor.
“Google bu çerçeveyi benimseyecek mi? Bu çok büyük bir soru” dedi.
Google, ağustos ayında Gemini tabanlı araçları, 18 yaş altındaki öğrencilerin kullandığı okul hesaplarına entegre ederek Google Classroom'da genişlettikten sonra ABD'de eleştirilerle karşılaştı.
Eleştirmenler, bu genişlemeyi, teknoloji devleri arasındaki rekabette, yapay zekâ ürünlerini okullarda konumlandırarak daha genç kullanıcılara ulaşma yönünde atılan bir adım olarak nitelendirdi. Google, Classroom'un dünya çapında 150 milyondan fazla öğretmen ve öğrenci tarafından kullanıldığını söylüyor.
Öğretmenler sendikası, Microsoft anlaşmasını kamuoyu önünde memnuniyetle karşılayan OpenAI ve Anthropic ile de benzer güvenceler konusunda görüşmeler yürütüyor.
ChatGPT'nin geliştiricisi OpenAI, anlaşmayı “okullarda yapay zekâ güvenliği ve gizliliği için önemli bir dönüm noktası” olarak nitelendirdi. Şirket, öğretmenler sendikasıyla çalıştığını ve kendi anlaşmasını da kısa süre içinde tamamlamayı beklediğini belirtti.
Claude'un geliştiricisi Anthropic ise, eğitimde sorumlu yapay zekâ kullanımını teşvik etmeye yönelik çabaları desteklediğini ve güvenlik ile gizlilik standartları üzerinde sendika ile birlikte çalıştığını açıkladı.