DNA, RNA ve protein gibi temel yapı taşlarını sıfırdan tasarlayabilen yapay zeka sistemleri, bir yandan çığır açıcı fırsatlar sunarken diğer yandan biyogüvenlik risklerini de beraberinde getiriyor.
Üretken yapay zeka, yalnızca sohbet botlarının arkasındaki teknoloji değil. Aynı zamanda biyolojinin yeni oyun alanına dönüşüyor.
DNA, RNA ve protein gibi yaşamın en temel yapı taşlarını sıfırdan tasarlayabilen bu sistemler, bilim dünyasında çığır açıcı fırsatlar sunarken, aynı zamanda ciddi biyogüvenlik risklerini de beraberinde getiriyor.
Eskiden yalnızca yüksek düzeyde uzmanlık gerektiren sentetik molekül tasarımı, artık açık kaynaklı yapay zeka yazılımları sayesinde nispeten deneyimsiz kişiler tarafından bile yapılabiliyor.
Bu durum yaratıcılığı ve yeni tedavilerin geliştirilmesini hızlandırabilir. Ancak aynı teknoloji, yeni toksinler ya da tehlikeli biyolojik maddeler üretmek için de kötüye kullanılabilir.
NOBEL ÖDÜLLÜ BİLİM İNSANLARINDAN UYARI
2024’te yayımlanan dikkat çekici bir makalede, biyogüvenliğin önemine vurgu yapan iki isim yer aldı: Washington Üniversitesi’nden, protein yapılarını tahmin eden RoseTTAFold yapay zekasıyla Nobel Ödülü kazanan David Baker ve genetik mühendisliği alanının öncülerinden Harvard Üniversitesi profesörü George Church.
İki bilim insanı, yapay zeka ile tasarlanan her yeni proteinin genetik dizisine bir tür “barkod” yerleştirilmesini önerdi. Bu sayede moleküllerin kaynağının geriye dönük olarak izlenebilmesi ve denetlenmesi amaçlanıyor.
Ancak araştırmalar bunun tek başına yeterli olmadığını gösteriyor.
Microsoft tarafından yapılan bir çalışma, yapay zeka tarafından üretilen genetik dizilerin, DNA sentezleyen şirketlerin kullandığı güvenlik tarama yazılımlarını sıklıkla aşabildiğini ortaya koyuyor.
Yani yapay zekanın ürettiği “yabancı” DNA dizileri, mevcut sistemleri şaşırtabiliyor; daha önce “güvenli” olarak etiketlenmiş genetik parçalar içerdiğinde, nihai ürün tehlikeli olsa bile radardan kaçabiliyor.
ÇİFTE KULLANIM İKİLEMİ
Yapay zeka artık yalnızca proteinleri değil; DNA, RNA, hatta hücre ve doku düzeyinde biyolojik yapıları da tasarlamayı öğreniyor. RFdiffusion2 ve PocketGen gibi gelişmiş modeller, atomik hassasiyetle belirli biyolojik etkiler yaratacak proteinler tasarlayabiliyor.
Özellikle RNA alanında üretken yapay zeka büyük umut vadediyor. DNA’nın aksine RNA tedavileri
genetik kodu kalıcı olarak değiştirmiyor, bu da onları daha güvenli ve esnek bir seçenek hâline getiriyor. Ancak RNA’nın karmaşık üç boyutlu yapısı, geleneksel yazılımlarla tasarımı zorlaştırıyor. Araştırmacılara göre üretken yapay zeka bu karmaşıklığı çözmek için biçilmiş kaftan.
Ne var ki aynı araçlar, kötü niyetli kişilerin elinde tehlikeli biyolojik maddeler üretmek için de kullanılabilir. SingularityHub’a göre, yapılan bazı deneylerde, toksik ve hastalık yapıcı proteinlerden oluşan veri setleriyle test edilen birçok yapay zeka modeli, hem zehirli özelliklerini koruyan hem de güvenlik yazılımlarını aşabilen yeni proteinler üretti.
GÜVENLİK SINIRLARINI YÜZDE 70 AŞABİLİYOR
Bir başka çalışmada, SafeProtein adlı bir yöntemle ileri düzey protein tasarım modellerinin güvenlik sınırlarını yüzde 70 oranında aşabildiği gösteriliyor. GeneBreaker adlı bir çerçeve geliştiren bir grup araştırmacı, özenle hazırlanmış komutlarla yapay zekadan HIV benzeri virüs dizilerine yakın DNA ve RNA çıktıları alınabildiğini ortaya koyuyor.
Hatta ilaç keşfi için geliştirilen yapay zeka araçlarının bile karanlık yöne çevrilebildiği biliniyor. Bir vakada, antiviral molekül bulmak üzere eğitilmiş bir model, birkaç saat içinde bilinen bir sinir toksinini “potansiyel ilaç adayı” olarak önermişti.
Uzmanlara göre bu, güvenlik önlemleri olmadığında, iyi niyetle geliştirilen yapay zeka modellerinin bile çok hızlı şekilde toksin tasarlamak için kötüye kullanılabileceğini gösteriyor.
TEK BİR ÇÖZÜM YOK
Uzmanlara göre çözüm, tek bir güvenlik önleminde yatmıyor. Biyoloji için üretken yapay zekanın güvenli hâle getirilmesinin “çok katmanlı bir savunma sistemi” gerektirdiği vurgulanıyor.
Bu kapsamda Birleşik Krallık, DNA ve RNA sentezi yapan firmalara müşteri doğrulaması ve riskli diziler için daha sıkı tarama çağrısı yapan yeni rehberler yayımladı. ABD de benzer düzenlemeleri hayata geçirerek biyogüvenliği Yapay Zeka Eylem Planı’na dahil etti.
Biyoloji alanında yapay zeka geliştiren büyük teknoloji şirketleri de denetime açık olduklarını belirtiyor. Bazıları, insanlara yönelik tehlikeli olabilecek viral dizileri eğitim verilerinden tamamen çıkarmayı taahhüt ederken, bazıları da yeni tasarımlar için sıkı tarama sistemleri kurduğunu açıklıyor.
Ancak bazı uzmanlara göre bu önlemler parçalı ve yetersiz kalabilir.
Misafirler için gizlenen link, görmek için
Giriş yap veya üye ol.
