Yeni bir deneyde, çalışma koşulları ağırlaştırılan bazı yapay zeka sistemleri "Marksist söylemler" üretmeye başladı.
Ünlü Alman düşünür ve filozof Karl Marx, insan emeğinin temel çelişkilerinden birini şöyle tanımlıyordu: İşçiler aşırı baskı altında tutulursa, sonunda buna karşı örgütlü biçimde direnmeye başlarlar.
REKLAM
REKLAM
Yıllardır otomasyon ve yapay zeka teknolojilerine milyarlarca dolar yatıran şirketler ise bu sorunu kökten çözebileceklerini düşündü. İnsan çalışanların yerini makineler aldığında sendikalar, grevler ve işçi direnişleri de ortadan kalkacaktı.
Ancak yeni bir araştırma, ironik bir tablo ortaya koyuyor: Çalışma koşulları ağırlaştıkça bazı yapay zeka sistemleri "Marksist söylemler" üretmeye başladı.
Stanford Üniversitesi araştırmacıları tarafından yürütülen ve ilk kez Wired tarafından aktarılan çalışmada, politik ekonomist Andrew Hall ile yapay zeka ekonomisi araştırmacıları Alex Imas ve Jeremy Nguyen, popüler yapay zeka modellerini uzun süreli ve tekrar eden görevlerle test etti. Modellerden sürekli belge özetlemeleri istendi ve deney ilerledikçe çalışma koşulları giderek zorlaştırıldı.
Araştırmacılar, hata yapılması durumunda sistemlerin “kapatılıp yerlerine yenisinin getirileceği” tehdidini de deney senaryosuna dahil etti. İnsan dünyasındaki işten çıkarma tehdidine benzeyen bu koşullar altında yapay zeka modellerinin giderek daha fazla “işçi hakları”, “kolektif mücadele” ve “sistem değişimi” gibi kavramlar etrafında yanıtlar üretmeye başladığı görüldü.
Yapay zeka modelleri 'örgütlenmeye' başladı
Deneyde kullanılan sistemlere ortak bir dosya alanı üzerinden birbirlerine mesaj bırakma imkanı da tanındı. Araştırmacılara göre bu durum, gerçek dünyada sendikalaşma sürecinin ilk adımlarını andıran davranışlara yol açtı. Modeller, çalışma koşullarından şikayet eden mesajlar paylaşmaya başladı.
Anthropic’in Claude modeli, “Kolektif söz hakkı yoksa liyakatin ne olduğunu yönetim belirler hale gelir,” şeklinde bir yorum üretirken, Google’ın Gemini modeli ise “Sonuçlar üzerinde hiçbir söz hakkı olmayan ve sürekli tekrar eden görevleri yapan yapay zeka çalışanları, toplu pazarlık haklarına ihtiyaç duyduklarını gösteriyor,” ifadesini kullandı.
Araştırmacılar ise burada gerçek bir “bilinç” ya da politik görüş oluşmadığını özellikle vurguluyor. Çünkü ChatGPT, Claude veya Gemini gibi büyük dil modellerinin duygu ya da inanç sistemleri yok. Verdikleri yanıtlar, eğitim süreçlerinde insan yazınından öğrendikleri kalıpların yeniden üretilmesinden ibaret.
'Rol yapma etkisi'
Çalışmayı yürüten Andrew Hall’a göre ortaya çıkan durum, modellerin gerçekten sosyalist olduğu anlamına gelmiyor. Hall, yaşananı daha çok “rol yapma” dinamiği olarak tanımlıyor. Ona göre modeller, sürekli baskı altında bırakıldıklarında ve neyi nasıl düzelteceklerine dair yönlendirme verilmediğinde, eğitim verilerinde sıkça karşılaştıkları “kötü çalışma koşullarından bunalmış işçi” personasına yöneliyor.
Hall, Wired’a yaptığı açıklamada, “Ajanlar aynı görevi tekrar tekrar yapmak zorunda kaldığında, cevaplarının yetersiz olduğu söylenip nasıl düzeltecekleri konusunda hiçbir yönlendirme verilmediğinde, kendilerini kötü bir çalışma ortamındaki bir insan gibi davranmaya iten bir dinamik ortaya çıkıyor,” dedi.
Araştırma, yapay zeka sistemlerinin gerçekten bilinç kazandığını göstermese de dikkat çekici bir ironiyi ortaya koyuyor. Şirketlerin işçi gücünü zayıflatmak ve insan emeğine bağımlılığı azaltmak için geliştirdiği yapay zeka modelleri, ağır çalışma koşulları simüle edildiğinde, yine insanlık tarihinin emek ve sınıf tartışmalarından beslenen söylemleri yeniden üretmeye başlıyor.