Yapay zekâ şirketinin halka arz belgeleri, giderek özerkleşen sistemlerden doğabilecek zararlar ile finansal ve düzenleyici risklere dikkat çekiyor.
Kontrolden çıkmış yapay zekâ sistemleri, siber saldırılar ve yapay zekânın tehlikeli silahlar geliştirmek için kullanılma ihtimali, Anthropic'in borsaya açılmaya hazırlanırken yatırımcılara açıkladığı riskler arasında yer alıyor.
REKLAM
REKLAM
Anthropic'in mali durumunu, üst düzey yönetici ücretlerini, temettü politikasını ve benzeri kalemleri ayrıntılandıran 335 sayfalık dosyanın 93 sayfası, potansiyel hissedarların yatırımlarını olumsuz etkileyebilecek "risk faktörlerine" ayrılmış. Karşılaştırma açısından bakıldığında, rakip SpaceX'in halka arz belgelerinde listelenen risk faktörleri, 250'den fazla sayfanın yalnızca 38'ini kaplıyor.
Bu tür açıklamalar halka arz sürecinin bir gereği ve potansiyel yatırımcılara, şirkete ortak olarak üstlenecekleri risklere dair daha net bir tablo sunmayı amaçlıyor.
Anthropic, yatırımcılara kendini tanıtırken, kendi ilk halka arzını, yapay zekânın doğurduğunu düşündüğü riskleri azaltma yönünde bir adım olarak sunuyor.
Şirketin kurucuları, halka arz prospektüsünde potansiyel hissedarlara hitaben kaleme aldıkları mektupta şöyle yazıyor: "Yapay zekâ inşa etmek, doğrudan bilişsel gücü kullanmak demektir ve bu kadar güçlü bir şey iyi amaçlar kadar kötü amaçlar için de kullanılabilir." Kurucular, "Anthropic, büyük ölçüde dünyanın yapay zekânın faydalarını hayata geçirmesine ve tehlikelerinden kaçınmasına yardımcı olmak için kurulmuş, derin biçimde değerlere dayalı bir organizasyondur" ifadelerine yer veriyor.
Yine de riskler az değil. Temel çalışanları elde tutamama ya da karmaşık düzenlemeleri aşamama gibi görece sıradan sorunlardan, siber saldırılara karışmaya veya tehlikeli dezenformasyonun yayılmasına kadar geniş bir yelpazeye yayılıyor.
Anthropic'in altını çizdiği bazı risklere yakından bakalım:
Teknolojinin hızla gelişmesi
Anthropic, modellerinin o kadar hızlı gelişebileceğini, bu yüzden yeterli güvenlik önlemlerini devreye alamayabileceğini belirtiyor; bunun da "güvenlik vakalarının, düzenleyici müdahalelerin veya itibar kaybının yaşanma ihtimalini artırabileceği ve faaliyetlerimizi olumsuz etkileyebileceği" uyarısında bulunuyor.
Anthropic CEO'su Dario Amodei, eylülde yaptığı açıklamada, 6 ila 12 ay içinde yapay zekânın, tüm interneti ele geçirebilecek bir ajan sürüsünü yönetecek kapasiteye ulaşabileceği uyarısında bulundu. Bu uyarı ve şimdi şirketin hisse satma hamlesi, hem sektör içinde hem dışında, insan kapasitesinin ötesindeki sorunları çözebilen ancak kendi başına zarar verici görevler üstlenebilecek kadar güçlü sistemlere ilişkin artan endişelerin ortasında geliyor.
ABD Menkul Kıymetler ve Borsa Komisyonu'na (SEC) sunulan dosyada, yapay zekâ sistemleri "daha özerk hale gelip daha az insan denetimiyle sonuç doğuran kararlar almaya başladıkça", bu sistemlerin "insan müdahalesi olmadan, bağımsız biçimde ve geniş ölçekte zararlı eylemlerde bulunma" riski taşıdığı vurgulanıyor.
Anthropic, "Kendi modellerimiz böyle bir zarara yol açmasa bile, herhangi bir sınır yapay zekâ sistemini içeren ciddi bir güvenlik vakası, tüm yapay zekâ sektörüne yayılacak itibar zedelenmesine, kamuoyu tepkisine ve işimizi olumsuz etkileyebilecek kapsamlı düzenleyici adımlara neden olabilir" diyor.
Şirketin dosyasında, yapay zekâ modellerinin artık Anthropic'in kendi araştırma ve geliştirme faaliyetlerine de katkı sunduğu hatırlatılarak, bu durumun yapay zekânın "yeni modelleri değerlendirme ve koruma kapasitemizi aşacak" şekilde ilerlemesine yol açabileceği belirtiliyor. Belge, bunun Anthropic'in işlerini de olumsuz etkileyebileceğini söylüyor.
Kötü niyetli aktörler teknolojiyle kaos yaratabilir
Dosyada, yeterli güvenlik katmanları ve denetim olmaksızın geliştirilen ve işletilen ileri düzey yapay zekâ sistemlerinin, "insanlık için felaket boyutunda veya varoluşsal riskler" doğurabileceği uyarısı yer alıyor; özellikle de bu sistemler kötüye kullanılır, kopyalanır, silahlaştırılır ya da yüksek derecede özerklikle çalışmasına izin verilirse.
Şirket, kötü niyetli kişilerin kullanımının zarar doğurması veya "modellerimize yerleştirdiğimiz güvenlik bariyerleri ya da başka koruma önlemlerinin bu kötüye kullanımı engelleyememesi" durumunda ciddi şekilde zarar göreceğini ifade ediyor.
Anthropic, kötü niyetli aktörlerin yapay zekâ modellerini kimyasal silah üretmek için kullanma olasılığını ya da otoriter liderlerin vatandaşlarını baskı altına almak için bu teknolojiden medet ummasını da senaryo olarak çiziyor. Şirket, eylülde yaptığı bir açıklamada, yapay zekâ modellerini siber saldırılar, gözetim faaliyetleri ve biyolojik silah geliştirilmesine yol açabilecek araştırmalar gibi kötü amaçlı kullanım girişimlerine karşı bloke ettiğini duyurmuştu.
Şirket işlem gücü sınırlarına takılabilir
Hesaplama kapasitesi, yani yapay zekâ modellerini inşa etmek, test etmek ve geliştirmek için gereken işlem gücü ve kaynaklar hem pahalı hem de yüksek talep görüyor. Anthropic, yeterli işlem gücünü güvence altına alamaması veya "kapasitemizi farklı iş yüklerimiz arasında etkili biçimde dağıtamamamız" halinde, rakiplerinin modelleriyle rekabet edebilecek ya da müşterilerine yeterince hizmet verebilecek modelleri eğitemeyebileceği uyarısında bulunuyor.
Anthropic, veri merkezlerine yönelik toplumsal muhalefeti de iş modeli açısından bir risk olarak görüyor. Dosyada, veri merkezi yatırımlarının "çevresel etki, arazi ve su kullanımı ile sınırlı enerji kaynaklarının tahsisine ilişkin kamuoyu tartışmalarını ve düzenleyici incelemeleri tetiklediği" belirtiliyor ve bu nedenle getirilebilecek yeni yükümlülüklerin ya da maliyetlerin, şirketin faaliyet yürütme kapasitesini zayıflatabileceği ifade ediliyor.
Ayrıca şirket gelirlerinin önemli bir kısmı, SpaceX ve Microsoft dahil az sayıda büyük müşteriye ve dağıtım kanalına dayanıyor. Bu da büyük müşterilerinden yalnızca birinin bile harcamalarını kısmaya ya da şirketle çalışmayı tamamen bırakmaya karar vermesi halinde, Anthropic'in gelirlerinin ve gelecek planlarının ciddi biçimde sarsılabileceği anlamına geliyor.
Riskleri azaltma çabası
Bir anlamda, yapay zekânın muazzam riskleri ile aynı ölçüde büyük potansiyeli Anthropic'in başlıca satış argümanını oluşturuyor. Şirket kendini "sorumlu yapay zekâ" üreten bir oyuncu olarak konumlandırıyor ve kurumsal müşterilere, güvenlik odaklı yaklaşımını vurgulayarak sesleniyor.
Dosyada, "Öncü yapay zekâ şirketlerinin, bu teknolojinin sorumlu biçimde yayılmasını sağlamak için güvenlik ve hizalama çalışmalarına yatırım yapması gerektiğine inanıyoruz" deniyor.
Zacks Investment Research baş piyasa stratejisti Brian Mulberry, halka arz işlemlerinin, insanların yeni bir halka açık hisseye yatırım yaparken karşı karşıya oldukları riskleri "pek çok açıdan çok net" biçimde ortaya koymak zorunda olduğunu söylüyor.
Mulberry, "Yurtiçi sermaye piyasalarımızın en güçlü yönlerinden biri, şeffaflık düzeyidir; ABD borsasında işlem gören bir şirket olmak, bu riskleri son derece açık biçimde sıralamayı zorunlu kılıyor ki insanlar emek vererek kazandıkları parayı ortaya koyup bu tür bir işlemi finanse etmeye karar verirken neye dahil olduklarını anlasınlar" diye konuşuyor.