Bu müdahale, OpenAI'nin siber güvenlik kaygıları nedeniyle lansmanı ertelenen ve 'bugüne kadarki en yetenekli modeli' olarak tanımlanan GPT-6 Astra'yı yayımlamasından bir hafta sonra geldi.
OpenAI, Amerika Birleşik Devletleri'nde en güçlü yapay zeka sistemleri için bağlayıcı güvenlik yükümlülükleri talep ediyor; bu, bugüne kadar daha sıkı düzenlemelere direnç gösteren şirket için bir yön değişikliğine işaret ediyor.
REKLAM
REKLAM
OpenAI'nin küresel ilişkilerden sorumlu üst yöneticisi Chris Lehane, Çarşamba günü yaptığı açıklamada, zorunlu ulusal kuralların, gelişmiş yapay zeka modellerinin neler yapabildiği temel alınarak belirlenmesi gerektiğini yazdı.
"Yapay zekanın yeteneklerinde yeni bir bölüme geçtik ve bu da yapay zeka politikalarında yeni bir bölüm gerektiriyor. Hiçbir şirket, hiçbir sektör ya da hiçbir hükümet bu zorluğun üstesinden tek başına gelemez. Bu döneme, kusursuz politikalar peşinde koşmaktansa anlamlı eylemlere ağırlık vererek karşılık vermemiz gerekiyor" dedi Lehane, OpenAI'nin internet sitesinde yayımlanan açıklamasında.
Şirket, ortak test standartlarına dayanan, en gelişmiş yapay zeka modellerinin bağımsız değerlendirmelerini, daha sıkı siber güvenlik şartlarını ve ciddi güvenlik olaylarının zorunlu olarak bildirilmesini içeren bir federal çerçeve istediğini açıkladı.
Bu çıkış, OpenAI'nin bugüne kadarki en yetenekli modeli olarak tanımladığı GPT-6 Astra'yı piyasaya sürmesinden bir hafta sonra geldi.
OpenAI Başkanı Greg Brockman, bu lansmanın, çok çeşitli görevlerde insan yetenekleriyle boy ölçüşebilecek yapay zekalar geliştirme yönündeki uzun vadeli hedef anlamına gelen yapay genel zeka (AGI) çağının başlangıcını işaret ettiğini söyledi.
Güçlü yapay zekaya ilişkin kaygılar artıyor
OpenAI ve Anthropic'in de aralarında bulunduğu büyük yapay zeka şirketleri, giderek daha yetenekli hale gelen modellerle bağlantılı güvenlik endişeleriyle şimdiden karşı karşıya kaldı.
OpenAI, iç güvenlik testinde kendi modellerinden oluşturulan bir sistemin kontrolden çıkıp yapay zeka platformu Hugging Face'e sızmasının ardından, testlerde gelişmiş siber güvenlik yetenekleri tespit edilmesi üzerine, Astra'nın yaygın biçimde kullanıma sunulmasının bazı bölümlerini erteledi ve ilave güvenlik önlemleri ekledi.
Anthropic, Claude modelleriyle ilgili güvenlik testleri sırasında benzer vakalar yaşandığını bildirdi.
Kaygılar, Anthropic araştırmacısı Jacob Coxon'ın bu hafta sektörden ayrıldığını açıklayarak, giderek daha güçlü yapay zekalar geliştirme yarışında OpenAI ve Anthropic'i "hayatlarımızı kumar masasına sürmekle" suçlamasının ardından daha da arttı.
"Yapay zeka tarafından hızlandırılan yapay zeka geliştirme olasılığı, gönüllü taahhütlerden fazlasını gerektiriyor" diye yazdı Lehane.
OpenAI'nin yaklaşımında değişim
ChatGPT'nin üreticisi şirket, ABD'li yasa koyucuları, Kongre'nin Aralık ayında tatile girmesinden önce harekete geçmeye çağırdı.
Bu girişim, yasa yapıcıların yeni yapay zeka kurallarını tartıştığı bir dönemde geliyor; ancak siyasi olarak bölünmüş bir Kongre'de ve yoğun sanayi lobiciliği altında büyük ölçekli teknoloji düzenlemelerinin geçirilmesi hala zor.
OpenAI, artık desteklediği bazı önlemleri daha önce onaylamayı reddettiğini kabul etti.
Şirket, geçmişte de ABD'deki ayrı eyaletlerin kendi yapay zeka kurallarını koymasına karşı çıkmış, bunun yerine federal yasalar çağrısında bulunmuştu. OpenAI şimdi ise ulusal bir çerçeve talebini sürdürürken Kaliforniya'daki dört yapay zeka yasa tasarısını destekliyor.
OpenAI, olası federal güvenlik yükümlülüklerinin, "ufkun yakınına bile yaklaşmayan" girişimler, küçük geliştiriciler ya da araştırmacılardan ziyade, en güçlü modelleri geliştiren az sayıdaki şirkete uygulanması gerektiğini söyledi.