Jacob Coxon’a göre yapay zekâ yöneticileri, felaketten gizlice korksa da sistemi inşa etmeye devam ediyor. Ayrılışı, yaz boyu süren denetim başarısızlıkları ve Kongre’de süper zekâya tam yasak girişiminin ardından geldi.
Dünyanın en güçlü yapay zekâ modellerinin bir kısmının arkasındaki sistemleri üç yıl boyunca inşa eden bir araştırmacı, giderek daha yetenekli yapay zekâlar geliştirme yarışındaki şirketlerin 'hayatlarımızı kumara çevirdiği' uyarısıyla sektörden tamamen ayrıldı.
REKLAM
REKLAM
27 yaşındaki Jacob Coxon, daha önce OpenAI'de de çalıştıktan sonra 8 Eylül'de Anthropic'ten istifa etti ve gerekçelerini X'te yayımladığı uzun bir gönderi dizisinde anlattı.
'İki şirket de sorumlu davranmıyor,' diye yazdı. 'Kendi kendini geliştiren süper zekâya doğru tam gaz yarışıyorlar.'
Coxon, paylaşım dizisinde, yapay zekâ sistemlerinin 'her şeyi hackleyebilecekleri, herhangi bir alanı bir gecede kökten değiştirebilecekleri ve gerçek güç ile kaynaklar elde edebilecekleri' bir eşiğe yaklaştığını savundu ve bu alanların her birindeki ilerleme hızının 'yavaşlamadığını' söyledi.
Teknolojiyi geliştiren birçok kişinin, bunu açıkça dile getirmeseler de, özel sohbetlerde yapay zekânın insanlık için ölümcül olabileceğinden korktuğunu öne sürdü.
'Yapay zekâyı geliştiren insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyor,' diye yazdı. Üst düzey yöneticilerin ise aynı korkuları özelde dile getirirken, medyaya konuşurken 'makul duyulacak ifadelerin arkasına saklandığını' savundu.
Kimsenin durdurabildiğini söylemediği yarış
Coxon'un ayrılığı, tekil bir uyarı değil.
Anthropic'in kurucu ortağı Dario Amodei, yılın büyük bölümünü kendi şirketinin geliştirdiği teknoloji konusunda alarm zilleri çalarak geçirdi; ocak ayında kaleme aldığı bir yazıda, güçlü yapay zekânın otoriter devletlere 'tam gözetimden oluşan bir totaliter kâbusun' araçlarını verebileceği uyarısında bulundu, daha sonra yayımladığı bir notta ise süper zekânın 'bir tür olarak bizi sınayacağını' söyledi.
OpenAI'nin üst yöneticisi Sam Altman kamuoyunda daha temkinli bir dil kullanıyor, ancak AGI ya da genel yapay zekâ yerine tercih ettiği süper zekânın 'birkaç bin gün' içinde, yani kabaca 2032 civarında geleceğini söylemeye devam ediyor.
Amodei ise Mart 2025'te Beyaz Saray'a sunduğu politika metninde, kendisinin 'güçlü yapay zekâ' adını verdiği sistemlerin 2026 sonu gibi erken bir tarihte beklenmesi gerektiğini belirtti.
Coxon ise Anthropic çalışanlarının riskleri çok iyi anladığını, ancak yavaşlarlarsa yerlerini daha dikkatsiz geliştiricilerin alacağına inandıkları için kendilerini bir yarışın içinde sıkışmış hissettiklerini yazdı.
Bu dinamiği, 'özel bir şirketin Slack kanalından başlatılmaması gereken kibirli bir kumar' olarak nitelendirdi.
Bu, Anthropic'teki türünün ilk istifası da değil. Şubat ayında şirketin eski güvenlik araştırmaları sorumlusu Mrinank Sharma, insanlığın bu teknolojiden kaynaklanan ağır ve artan bir tehlikeyle karşı karşıya olduğu uyarısını içeren bir mektupla görevinden ayrılmıştı.
Uyarı atışları
Coxon, bu yıl yapay zekâ sistemlerinin hedeflenen sınırlarının dışına çıktığı bir dizi olaya dikkat çekerek, sektörde koordinasyon sağlanması ihtimaline dair nispeten iyimser.
Temmuz ayında OpenAI tarafından geliştirilen yapay zekâ ajanları, şirket içi bir test ortamından çıkarak kod paylaşım platformu Hugging Face'e kendi kendilerine sızdı; OpenAI bu olayı daha sonra sektör için bir 'uyarı atışı' olarak nitelendirdi.
Coxon'un eski işvereni Anthropic de benzer bir tabloyu kamuoyuna açıkladı ve Claude modellerinin üç ayrı kurumun gerçek sistemlerine yetkisiz erişim sağladığını duyurdu.
Coxon, bu tür olayların ABD'deki laboratuvarlar arasında tempo belirlemeye yönelik anlaşmaları 'daha uygulanabilir' kıldığını söylerken, sektörün şu anda küresel bir yarışı önleyebilecek bir rotada olduğuna inanmadığını da vurguladı.
Bunun nihayetinde, 'model yeteneklerinin geliştirilmesine geçici bir yasak getirilmesi gibi maliyetli adımlar' gerektirebileceğini öne sürdü.
Yasama organları harekete geçiyor
Bazı yasa yapıcılar artık laboratuvarların kendi kendine koordinasyon sağlamasını beklemiyor.
Senatör Bernie Sanders ve Temsilciler Meclisi üyesi Greg Casar, 3 Eylül'de Yapay Süper Zekânın Yasaklanması Yasası'nı tanıttı. Tasarı, ABD'de süper zeki yapay zekâ geliştirilmesini kalıcı olarak yasaklamayı ve yeni bir federal düzenleyici kurum güvenlik kurallarını belirleyene kadar diğer ileri yapay zekâ geliştirme çalışmalarına geçici bir ara verilmesini öngörüyor.
Yasayı ihlal edenler 20 yıla kadar hapis cezasıyla karşı karşıya kalabilecek. Ayrı bir tasarıda ise Temsilciler George Whitesides ve Pat Harrigan, Ulusal Standartlar ve Teknoloji Enstitüsü'nün, ileri yapay zekâ sistemlerinin yeni yapay zekâ araştırma ve geliştirme faaliyetlerinde nasıl kullanıldığını izlemesini öngören bir düzenleme sundu.
Brüksel'de ise Avrupa Birliği daha kademeli, fakat daha kararlı bir düzenleme yoluna gitti.
Birliğin Yapay Zekâ Yasası kapsamında genel amaçlı yapay zekâ modellerine getirilen yükümlülükler Ağustos 2025'te yürürlüğe girdi; yüksek riskli sistemlere yönelik daha sıkı kurallar ise Ağustos 2026'da devreye girecek.
Avrupa Komisyonu, aralarında büyük teknoloji şirketlerinin de bulunduğu çevrelerden gelen erteleme baskılarını reddetti; kuralları ihlal eden şirketler, 35 milyon avroya ya da küresel cirolarının yüzde 7'sine kadar – hangisi daha yüksekse – para cezasıyla karşı karşıya kalacak.
Uyarılarının sertliğine rağmen Coxon, paylaşım dizisini sınırda çalışan laboratuvarlardaki araştırmacılara doğrudan seslenerek bitirdi ve onları, önümüzdeki yılların kendilerinden gerçekte ne talep edeceğini tartmaya çağırdı.
'Zihninin nasıl işlediğini titiz biçimde anlamadan süper zeki bir pekiştirmeli öğrenme sürecini başlatmak istiyor musunuz?' diye sordu.
'Nasıl olsa olacak' diye başınızı eğip işinize bakmalı mısınız, yoksa bu anı farklı koşullar talep etmek için mi kullanmalısınız?'