Önde gelen birkaç yapay zeka şirketinin CEO’su, kötü niyetli aktörlerin kendi teknolojilerini kullanarak biyolojik silah geliştirmesini zorlaştıracak yeni yasalar çıkarılması için Kongre üyelerine çağrıda bulunuyor.
Google DeepMind’dan Demis Hassabis, OpenAI’dan Sam Altman, Anthropic’ten Dario Amodei ve Microsoft AI’dan Mustafa Süleyman genetik materyallerin kötüye kullanımını önlemek amacıyla sentetik DNA ve RNA satan şirketlerin müşterileri ve siparişleri taramasını zorunlu kılan yasalar talep eden bir açık mektuba imza attı.
Tarafsız Institute for Progress ile sağ eğilimli Foundation for American Innovation tarafından organize edilen mektup, YZ’deki gelişim hızı göz önüne alındığında, “kötü niyetli kişilerin biyolojik silahlara ulaşmasını tarih boyunca engelleyen bilgi bariyerlerinin ciddi ölçüde aşınması yönünde gerçek bir olasılık bulunduğunu” kabul ediyor.
Bilim insanı Arthur Kornberg, 1950’lerde DNA’yı başarıyla sentezleyen ilk kişi oldu. Günümüzde ise bu süreç tamamen otomatik hale geldi; dünya genelinde düzinelerce şirket, bilimsel araştırma, ilaç geliştirme ve teşhis süreçlerinde kullanılan özel genetik dizilimleri “basmak” ve satmak için ticari sentezleyiciler kullanıyor. Birçok sağlayıcı yalnızca yetkin araştırmacılara, biyoteknoloji şirketlerine ve eğitim kurumlarına satış yapsa da tümü müşterileri veya sipariş edilen gen dizilimlerini denetlemiyor.
2017 yılında Kanadalı araştırmacılar, soyu tükenmiş at çiçeği virüsünü yeniden üretmek için posta yoluyla sipariş edilen 100.000 dolar değerinde DNA kullandıklarında büyük bir endişe yarattı. Eleştirmenler, aynı yöntemin çiçek hastalığı virüsü gibi benzer yapıdaki ölümcül bir virüsü üretmek için de kullanılabileceğini belirtti. Gen sentezi o zamandan beri daha da ucuzladı.
YZ alanındaki ilerlemelerle birleştiğinde, sıfırdan işlevsel bir virüs üretmek için hâlâ belirli bir biyoloji eğitimine ihtiyaç duyulsa da artık büyük dil modellerini kullanarak tehlikeli yeni toksinler ve patojenler tasarlamak mümkün hale geliyor. Biyoterör saldırıları nadir görülse de kitlesel kayıplara, toplumsal paniğe ve ekonomik zarara yol açma potansiyeli taşıyor. YZ tarafından tasarlanan bir patojenin kasıtlı veya kazara küresel bir pandemiyi tetikleme ihtimali ise büyük bir endişe yaratıyor.
Mektubu imzalayan Stanford Üniversitesi mikrobiyoloğu ve biyogüvenlik uzmanı David Relman, “YZ araçları, bir kullanıcının taramaya tabi tutulmayacak dizilimleri sipariş etmek için nereye başvuracağını çok hızlı şekilde tespit etmesini sağlıyor.” diyor ve ekliyor: “Doğru şekilde yönlendirildiklerinde, siparişinizin niteliğini nasıl değiştireceğinizi de söyleyebiliyorlar; böylece tarama yapanlar bile ne üretmeye çalıştığınızı tespit etmekte çok daha fazla zorlanabiliyor.”
İmzacılar arasında diğer bilim insanları, ulusal güvenlik uzmanları ve gen sentezi şirketleri Twist Bioscience ile Ansa Biotechnologies‘in yöneticileri de var. Bu firmalar, gönüllü tarama uygulamalarını hayata geçirmek için 2009 yılında kurulan International Gene Synthesis Consortium’un üyeleri arasında. Birçok şirket, bir organizmanın toksisitesine veya hastalık yapma yeteneğine katkıda bulunabilecek “endişe verici dizilimleri” tespit etmek için siparişleri tarayan yazılımları halihazırda kullanıyor.
Twist Bioscience politika ve biyogüvenlik başkan yardımcısı James Diggans, “DNA sentezleme yeteneğine sahip bir teknolojiniz varsa, bunun sorumlu şekilde kullanılmasını sağlamalısınız; bunun bir parçası da ne ürettiğinizi ve bunu kimin için ürettiğinizi net olarak bilmektir.” diyor. Şirket, resmi kuralların uygulanmasını yıllardır destekliyor.
Biden yönetimi döneminde yürürlüğe giren federal yönergeler, federal fon alan bilim insanlarının ve şirketlerin, sentetik gen dizilimlerini yalnızca satın almaları tarayan sağlayıcılardan sipariş etmesini zorunlu kıldı. Bu yılın başlarında Senato’ya sunulan iki partili bir yasa tasarısı ise ABD’de faaliyet gösteren tüm gen sentezi sağlayıcılarının, siparişleri ve müşterileri kötü niyetli aktörler veya tehlikeli patojenler açısından taramasını zorunlu kılmayı öngörüyor.
Ancak tarama araçları kusursuz değil. Geçen yıl Microsoft araştırmacıları, YZ protein tasarım araçlarının, şirketlerin tarama yazılımlarını atlatan potansiyel olarak tehlikeli gen dizilimleri oluşturabildiğini gösteren bir çalışma yayımladı. Modeller, tehlikeli olduğu bilinen dizilimlerle benzer yapılara sahip yeni protein dizilimleri önerdi.
Y Combinator‘ın eski başkanı ve Safe AI Fund ortağı Geoff Ralston, biyoloji modellerine sahip YZ laboratuvarlarının kullanıcıları kendi bünyelerinde taraması gerektiğini düşünüyor.
Mektubu imzalayanlar arasında yer alan Ralston, “Bir modelden, doğrudan tehlikeli bir şey yapmanıza yardımcı olmasını istemek imkânsız değilse bile son derece zor olmalı.” ifadesini kullanıyor.
Relman, tarama prosedürlerine yönelik düzenlemelerin çözümün yalnızca bir parçası olduğu görüşünde ve “Taramanın bazı durumlarda başarısız olabileceği düşünüldüğünde, başka kontrol noktalarına da sahip olmamız gerekiyor. YZ şirketlerinin sorumluluk alması gereken yer de burası.” diyor.
Kaynak: https://www.wired.com/story/openai-anthropic-letter-ai-biological-weapons/
