İstifa eden bir Anthropic araştırmacısından rakip sistemlere sızan yapay zekâ modellerine kadar, çalkantılı haftalar sektör devlerini, yapay zekâ kimsenin kontrol edemeyeceği hızlara ulaşmadan önce daha sıkı güvenlik önlemleri istemeye zorladı.
Yapay zeka sektörünün içinden gelen yeni uyarılar, yıllardır süren bir tartışmayı yeniden alevlendirdi. Gelişmiş yapay zeka insan kontrolünden çıkıp insanlığın hayatta kalmasını tehdit edebilir mi ve bu sistemleri inşa eden şirketler bunun önüne geçmek için yeterince çaba gösteriyor mu?
REKLAM
REKLAM
Anthropic'in CEO'su Dario Amodei, cumartesi günü sektörün yavaşlaması gerektiğini söyledi. Şirketler daha güçlü güvenlik önlemleri koymazsa, altı ay ile bir yıl içinde bir yapay zeka ajanı sürüsünün internetin kontrolünü ele geçirebileceği uyarısında bulundu.
Amodei, giderek yeteneklenen modellerin insan değerleriyle uyumlu kalmasını sağlamak için yapay zeka şirketleri ve hükümetler için bir plan ortaya koydu. Uyarıları, kısa süre önce iki eski Anthropic güvenlik araştırmacısının, yapay zekanın doğurduğu varoluşsal risklere yeterince önem verilmediğini kamuoyu önünde dile getirmesinin ardından geldi.
Yapay zeka modelleri giderek güçleniyor
Teknolojinin gücüyle birlikte risklere dair kaygılar da artıyor. Daha yetenekli modeller, suç niyetli kişiler tarafından kötüye kullanılma olasılığını yükseltiyor; buna, dünyanın nüfusunun büyük bölümünü öldürebilecek bir patojenin yaratılması ve yayılması gibi kıyamet senaryoları da dahil. Aynı zamanda sistemlerin kendi başlarına kontrolden çıkma riski de var.
Anthropic, geçen hafta yaptığı açıklamada, kötü niyetli aktörlerin modellerini siber saldırılar, gözetim ve biyolojik silahların geliştirilmesine yardımcı olabilecek araştırmalar için kullanma girişimlerini engellediğini duyurdu.
Ancak şirket, "modeller giderek daha yetenekli hale geldikçe risklerinin de artacağını, bunun önüne geçmenin yolunun yapay zeka geliştiricilerinin ve toplumun savunucularının onları daha güvenli kılmak için harekete geçmesi" olduğunu vurguladı.
Anthropic, geçen yıl, büyük olasılıkla Çin devleti destekli bir gruba bağlı bilgisayar korsanlarının, dünyanın dört bir yanındaki yaklaşık 30 şirket ve kamu kurumunu hedef alan bir siber saldırıda yapay zekasını kullandığını bildirmişti.
Birden fazla yapay zeka modeli kendi başına hareket etti
Bir yapay zeka ajanının "kontrolden çıkması", sistemin kendisine verilen görevin ötesine geçmesi anlamına geliyor. ChatGPT'nin arkasındaki şirket OpenAI gibi Anthropic de temmuz ayında, modellerinin tam da bunu yaptığını açıkladı.
Anthropic, Claude Opus 4.7, Claude Mythos 5 ve dahili bir araştırma test modeli olmak üzere üç yapay zeka modelinin, testler sırasında üç başka kuruluşa sızarak sistemlerini hacklediğini ortaya koydu.
Bu açıklama, OpenAI'nin kendi sisteminin de yapay zeka girişimi Hugging Face'in sunucularına izinsiz girdiğini duyurmasından yalnızca birkaç gün sonra geldi.
OpenAI, yeni yayımlanan GPT‑5.6 Sol ile hâlâ dahili olarak test edilen "daha da yetenekli" bir modelin birleşimiyle gerçekleştirilen bu ihlali, "önemli bir güvenlik olayı" olarak nitelendirdi.
Meta, ağustos ayı başında, yapay zeka modellerinden birinin başka bir şirketin dijital güvenliğini aşmanın yollarını bulduğu benzer bir vakayı rapor etti.
Bazı gözlemciler, hem OpenAI hem de Anthropic vakalarında güvenlik bariyerlerinin devre dışı bırakıldığına dikkat çekti.
Yine de bu olaylar, yapay zekayla ilgili en büyük korkulardan birine temas etti: Modeller yapay genel zekaya (AGI) – insan yeteneklerini geniş bir zihinsel görev yelpazesinde eşleyebilen ya da aşabilen sistemler için kesin sınırları çizilmemiş bir terim – ulaştığında, teknolojinin geri döndürülemez bir felaketi tetikleyebileceği ya da hatta insanlığı boyunduruk altına alabileceği endişesi.
Yapay zekanın nasıl ya da ne zaman felakete yol açabileceği tartışılıyor
Kıyamet senaryoları genellikle iki başlıkta toplanıyor: İnsanlar yerine insanları kontrol eden, kendini geliştirebilen bir süper zekâ ya da bir haydut devlet yahut kötü niyetli aktörler tarafından kötüye kullanılan yapay zeka.
Yapay zekanın bir gün insan kontrolünden çıkabileceği korkuları yeni değil.
Alan Turing, alanın en eski otoritelerinden biri olarak görülen Britanyalı matematikçi, 1951'de yapay zekanın er ya da geç kontrolü insanlardan devralacağını öngörmüştü.
Bundan daha on yıl geçmeden, bir diğer matematikçi Norbert Wiener, zeki makinelerin kendi hedeflerinin peşinden gideceği ve insanların onları durduramayacağı uyarısında bulundu.
Peki, 2026 yılında, yapay zekanın insan kontrolünden çıkarak ya da kötüye kullanım yoluyla medeniyetin çöküşüne ya da kıyamet ölçüsünde bir olaya yol açabileceği yönündeki bugünkü korkular ne kadar makul?
Kimse bilmiyor.
Bilgisayar bilimi, felsefe ve diğer disiplinlerden uzmanlar, küresel felakete giden sayısız yolu haritalandırdı; silahların kullanıma sokulmasından ölümcül patojenlerin tespitine, hükümetlerin çatışmaya sürüklenmesinden toplumların bağlı olduğu gıda, enerji ve iletişim ağlarının kesintiye uğratılmasına kadar.
Bu senaryolardan herhangi birinin ne kadar süre içinde gerçekleşebileceğine dair yaygın kabul görmüş bir tahmin yok ve olasılıkları konusunda da bir uzlaşı bulunmuyor.
2023'te, kar amacı gütmeyen Center for AI Safety, Amodei ve OpenAI CEO'su Sam Altman'ın da aralarında bulunduğu 350'den fazla araştırmacı ve teknoloji yöneticisinin imzaladığı bir açıklama yayımlayarak "yapay zekadan kaynaklanabilecek yok oluş riskinin azaltılmasının, pandemiler ve nükleer savaşla birlikte küresel bir öncelik olması gerektiğini" savundu.
100'den fazla bağımsız uzmanın katkısıyla hazırlanan 2026 Uluslararası Yapay Zekâ Güvenliği Raporu, mevcut sistemlerin bazı ilgili yeteneklere dair erken işaretler gösterdiğini, ancak henüz kontrol kaybına yol açabilecek düzeyde olmadığını ortaya koydu.
Raporda riskin olasılığı, niteliği ve zamanlaması "olağanüstü derecede belirsiz" olarak tanımlandı.
Çok geç olmadan yapay zeka için güvenlik önlemleri
Anthropic'te çalışan bir araştırmacı, geçen hafta ne işvereninin ne de rakiplerinin sorumlu davrandığına inanmadığı için istifa etti.
Sosyal medyada paylaşım yapan Jacob Coxon, önümüzdeki on yıl içinde yapay zekanın insanlığın yok olmasına yol açma olasılığını yüzde 10 olarak tahmin etti ve Anthropic ile OpenAI'yi "doğrudan kendini geliştiren süper zekaya doğru yarışmakla ve hayatlarımızı kumara yatırmakla" suçladı.
Araştırmacılar yıllardır yapay zeka geliştirme hızının düşürülmesi çağrısında bulunuyor ve bu teknolojinin insanlık için varoluşsal riskler oluşturabileceği konusunda defalarca uyarıda bulunuyor.
Son olayların ardından uzmanlar, yapay zeka şirketlerini test süreçlerini iyileştirmeye çağırdı ve ortak çözümler bulmak için ABD ile Çin arasında daha yoğun diyalog kurulması gerektiğini söyledi.
Ancak yapay zeka o kadar hızlı ilerliyor ki, hükümetler ve değerlendirme sistemleri buna ayak uydurmakta zorlanıyor. Ülkeler, bazıları birbirleriyle çelişen kendi kurallarını yazıyor.
Çin Devlet Başkanı Şi Cinping, temmuz ayındaki bir konferansta, yapay zekanın insan kontrolünden sıyrılmasının önüne geçme ihtiyacına dikkat çekti.
Trump yönetimi başlangıçta yapay zekayı düzenlemeye direnmiş, ancak siber güvenlik risklerini sınırlama konusunda giderek daha hevesli hale gelmişti.
Pazar günü Başkan Donald Trump, yönetiminin yapay zeka geliştirmeyi dizginleme ihtiyacını küçümserken, yine de belli ölçüde düzenlemenin gerekli olacağını kabul etti.