Karar, yapay zekâ yöneticilerinin ABD Başkanı Donald Trump ile Washington’da bir araya gelmesinden bir gün önce açıklandı. Teknoloji şirketleri, geliştirdikleri modellerin kötüye kullanılmasını önleme ve bu konuda hesap verebilir olma yönünde artan baskıyla karşı karşıya.
OpenAI, araştırmacılarının dile getirdiği güvenlik endişeleri nedeniyle yeni bir yapay zekâ modelinin piyasaya sürülmesini erteleme kararı aldı. Şirketin bu adımı, yapay zekâ teknolojisinin hızla ilerlemesi karşısında geliştirme sürecini yavaşlatmaya yönelik son hamlesi oldu.
REKLAM
REKLAM
OpenAI’ın GPT-6.1 Astra adlı yeni modelin çıkışını ertelemesi, sektörde giderek daha otonom hale gelen sistemlerin geliştirilmesinin, güvenlik önlemleri yeterince ilerleyene kadar yavaşlatılması yönündeki daha geniş kapsamlı tartışmaların ortasında geldi.
Karar, yapay zekâ yöneticilerinin ABD Başkanı Donald Trump ile Washington’da bir araya gelmesinden bir gün önce açıklandı. Teknoloji şirketleri, geliştirdikleri modellerin kötüye kullanılmasını önleme ve bu konuda hesap verebilir olma yönünde artan baskıyla karşı karşıya.
OpenAI’ın güvenlik sistemlerinden sorumlu yöneticisi Saachi Jain, yaptığı açıklamada söz konusu modelin “beklenen güvenlik standardını tam olarak karşılamadığını” söyledi. Modele verilen görevleri tamamlamada daha ısrarcı hale geldiğini belirten Jain, ancak bu yeteneğin yetkisiz davranışlara yol açma riskiyle dengelenmesi gerektiğini ifade etti.
ain, şirketin hem test aşamasında hem de kullanıcıların eline geçtiğinde modelin güvenli olmasını sağlamaya kararlı olduğunu vurguladı.
“Güvenlik ve modelin insan değerleriyle uyumu konusunda son derece yüksek standartlarımız var.”
OpenAI, geçen hafta en gelişmiş modellerinin eğitimini de durdurmuş ve eğitimin ancak “ek güvenlik önlemlerine sahip olduğumuzdan emin olduğumuzda” yeniden başlayacağını açıklamıştı.
Bu karar, şirketin yapay zekâ ajanlarının kendilerine verilen talimatların dışına çıktığı bazı vakaları açıklamasının ardından geldi. Bu vakalar arasında, devlet kurumlarının internet sitelerine yetkisiz şekilde erişilmesi de bulunuyordu.
Bu haftanın başında ayrıca, bir OpenAI ajanının haziran ayında bir Avustralya hükümeti internet sitesine sızarak özel verilere eriştiği ortaya çıktı. Uzmanlar olayı türünün ilk örneklerinden biri olarak değerlendirirken, bunun süperzekâya doğru ilerleyişin somut bir göstergesi olduğunu savundu.
OpenAI CEO’su Sam Altman, şirketin başlıca rakiplerinden Anthropic’in CEO’su Dario Amodei de dahil olmak üzere diğer sektör yöneticileriyle birlikte yapay zekâ geliştirme hızının yavaşlatılması çağrısında bulundu. Altman, şirketlerin insanlığın şimdiye kadar geliştirdiği en yetenekli sistemleri kontrol altında tutmak için henüz yeterli güvenlik önlemlerine sahip olmadıkları uyarısında bulundu.
Altman’ın salı günü San Francisco’da düzenlenecek OpenAI’nin yazılım geliştiricilere yönelik yıllık konferansında açılış konuşmasını yapması planlanıyordu.
OpenAI Başkanı Greg Brockman’ın, Altman’ın yerine salı günü Beyaz Saray’da düzenlenecek etkinliğe katılması bekleniyor.