Yaklaşık 100 araştırmacı, ölümcül patojenler üretilebileceği endişesiyle, yapay zekanın kötüye kullanılmasını önlemek için yüksek riskli biyolojik veri setlerine koruma çağrısı yaptı.
Biyoloji alanındaki yapay zeka (AI) modelleri, genetik diziler ve patojen özellikleri de dahil olmak üzere büyük miktarda biyolojik veriye dayanıyor. Ancak bu bilgilere herkesin sınırsız erişimi olmalı mı ve meşru kullanım nasıl güvence altına alınabilir?
REKLAM
REKLAM
100'den fazla araştırmacı, bazı biyolojik veri setlerine sınırsız erişimin, yapay zeka sistemlerinin tehlikeli virüslerin tasarlanmasına ya da geliştirilmesine yardımcı olmasını mümkün kılabileceği uyarısında bulunarak, suistimali önlemek için daha güçlü önlemler çağrısında bulundu.
Bir açık mektupta (kaynak İngilizce), Johns Hopkins Üniversitesi, Oxford Üniversitesi, Fordham Üniversitesi ve Stanford Üniversitesi'nin de aralarında bulunduğu önde gelen kurumlardan araştırmacılar, açık erişimli bilimsel verilerin keşif sürecini hızlandırdığını, ancak yeni biyolojik verilerin küçük bir kısmının kötüye kullanılması halinde biyogüvenlik riski oluşturduğunu savunuyor.
Uzmanlar, açık mektupta "AI modelleri ciddi biyolojik tehditlerin ortaya çıkmasına yardımcı olabileceğinden, biyolojik verilerin yönetimine ilişkin riskler son derece yüksektir" ifadelerini kullandı.
Biyolojide kullanılan AI modelleri, mutasyonları öngörebiliyor, kalıpları tespit edebiliyor ve pandemi patojenlerinin daha kolay bulaşan varyantlarını üretebiliyor.
Yazarlar bunu, insanlarda pandemilere ya da hayvanlar, bitkiler ve çevrede benzer olaylara yol açabilecek, bulaşıcı biyolojik patojenlerin oluşturulmasını hızlandırıp kolaylaştırabilecek bir "endişe verici kapasite" olarak tanımlıyor.
Biyolojik verilerin genel olarak açık biçimde erişilebilir olması gerektiğini belirten araştırmacılar, ancak "endişe verici patojen verilerinin" daha sıkı güvenlik denetimleri gerektirdiğinin altını çiziyor.
Erişimi düzenleyecek yeni bir çerçeve öneren ekip, makalede, "Odağımız, yapay zeka geliştiricilerinin geneline sunulmadan önce en endişe verici veri setlerini tanımlamak ve bunları yönetmek" ifadelerine yer verdi.
Johns Hopkins Üniversitesinden mektubun ortak yazarlarından Moritz Hanke, "Dünyanın dört bir yanında geliştirilen, ağırlıkları açık biyolojik AI modellerinin damga vurduğu bir dönemde, hassas patojen verilerine erişimi yalnızca meşru araştırmacılarla sınırlamak, riskleri azaltmak için en umut verici yollardan biri olabilir" dedi.
Geliştiriciler ne yapıyor
Şu anda bu veri setlerini düzenleyen evrensel bir çerçeve bulunmuyor. Bazı geliştiriciler yüksek riskli verileri gönüllü olarak hariç tutsa da araştırmacılar, açık ve tutarlı kuralların herkes için geçerli olması gerektiğini savunuyor.
Arc Institute, Stanford ve TogetherAI araştırmacılarının geliştirdiği Evo ile EvolutionaryScale'in geliştirdiği ESM3 gibi önde gelen biyolojik AI modellerinin geliştiricileri, eğitim verilerinden bazı viral dizileri çıkardı.
Şubat 2025'te EVO 2 ekibi, etik ve güvenlik riskleri nedeniyle ve "Evo'nun biyolojik silah geliştirmek için kullanılmasının önüne geçmek" amacıyla, insanları ve diğer karmaşık organizmaları enfekte eden patojenleri veri setlerinden çıkardıklarını duyurdu.
EVO 2, DNA mutasyonlarının etkilerini tahmin edebilen, yeni genomlar tasarlayabilen ve genetik kodlardaki kalıpları ortaya çıkarabilen, biyolojiye yönelik açık kaynaklı bir AI modeli.
Mektubun ortak yazarı ve çalışmanın başyazarı Jassi Panu, LinkedIn'de şunları yazdı: "Şu anda hangi verilerin anlamlı riskler içerdiğine dair uzmanlarca desteklenmiş bir rehber yok. Bu da bazı öncü geliştiricileri kendi kanaatlerine göre hareket etmeye ve viral verileri eğitimden gönüllü olarak çıkarmaya zorluyor."
Riskli veri türleri
Yazarlar, önerilen çerçevenin biyolojik veri setlerinin yalnızca küçük bir bölümünü kapsadığını vurguluyor.
Çerçeve, patojen verilerini kategorize etmek için Beş Kademeli Biyogüvenlik Veri Düzeyi (BDL) sistemi öneriyor. Veriler, AI sistemlerinin genel viral kalıpları ve hem insanlara hem hayvanlara yönelik biyolojik tehditleri öğrenmesini mümkün kılma potansiyeline göre "risk" düzeyine ayrılıyor. Düzeyler şöyle:
BDL-0: Gündelik biyoloji verileri. Herhangi bir kısıtlama olmamalı, serbestçe paylaşılabilmeli.
BLD-1: Genetik diziler gibi temel viral yapı taşları. Kapsamlı güvenlik kontrolleri gerektirmez, ancak giriş ve erişim izlenmelidir.
BLD-2: Türler arası sıçrama yapabilme ya da konak dışında hayatta kalabilme gibi hayvan virüslerinin özelliklerine ilişkin veriler.
BLD-3: Bulaşıcılık, semptomlar ve aşıya direnç gibi insan virüslerinin özelliklerine ilişkin veriler.
BLD-4: Daha bulaşıcı hale getiren COVID-19 virüsü mutasyonları gibi, "yükseltilmiş" insan virüsleri. Bu kategoriye en sıkı kısıtlamalar uygulanacak.
Güvenli erişimi sağlamak
Mektup, güvenli erişimi sağlamak için, veri sağlayıcıların kullanıcıların meşruiyetini doğrulamasına ve olası suistimalleri takip etmesine imkan verecek özel teknik araçlar çağrısında bulunuyor.
Önerilen araçlar arasında, veri setlerine gizli ve benzersiz tanımlayıcılar yerleştirerek olası sızıntıların kolayca izlenmesini sağlayan filigranlama, verinin kaynağını gösteren köken bilgisi, erişimi ve yapılan değişiklikleri tahrif edilemez imzalarla kaydeden denetim günlükleri ve kullanıcıların kendine özgü etkileşim kalıplarını takip edebilen davranışsal biyometri yer alıyor.
Araştırmacılar, AI sistemleri daha güçlü ve yaygın hale geldikçe, açıklık ile yüksek riskli veriler üzerindeki gerekli güvenlik kısıtlamaları arasında doğru dengeyi kurmanın hayati önem taşıyacağını vurguluyor.