Anthropic raporu: Yapay zeka, biyolojik silah üretiminde kötüye kullanılıyor

Yapay zeka alanının önde gelen şirketlerinden Anthropic, yapay zeka teknolojisinin kötüye kullanımına ilişkin kapsamlı bir rapor yayımladı. Şirket, söz konusu raporda modellerinin biyolojik silah geliştirme faaliyetlerine destek sağladığı yönündeki tespitlere yer verdi.

Yapay zekanın biyolojik risk boyutu

Raporda, yapay zeka modellerinin en ciddi tehditlerinden birinin "biyolojik kötüye kullanım" olduğuna dikkat çekildi. Mevcut patojenlerin daha tehlikeli hale getirilmesi ya da tamamen yeni patojenlerin tasarlanması konusunda yapay zekanın ulaştığı yetenek düzeyinin endişe verici boyutlara ulaştığı vurgulandı.

Anthropic'e göre yapay zeka, biyolojik tehdit unsurlarının oluşturulmasında kritik bir araç haline gelme potansiyeli taşıyor. Bu durum, teknoloji devi şirketleri ve düzenleyici kurumları alarma geçirmiş durumda.

Tespit edilen somut örnekler

Şirketin paylaştığı raporda dikkat çeken birkaç vaka örneği yer aldı. Bunlardan ilkinde, desteklenmeyen bir bölgede görev yapan bir araştırmacının, Claude yapay zeka modeli aracılığıyla kuş gribinin memelilere adaptasyonu üzerine deneyler planlamaya çalıştığı belirlendi.

Başka bir vakada ise devlet destekli bir araştırmacının, yapay zeka yardımıyla toksinleri dijital ortamda yeniden tasarladığı tespit edildi. Bu örnekler, yapay zeka teknolojisinin biyolojik silah üretiminde ne denli kritik bir rol oynayabileceğini gözler önüne serdi.

Önlemler ve şeffaflık adımı

Anthropic, söz konusu faaliyetleri tespit etmesinin ardından ilgili kullanıcıların hesaplarını derhal kapattığını ve gelecekte benzer girişimlerin engellenmesine yönelik yeni tedbirler devreye aldığını bildirdi. Şirket, bu kişilerin "kötü niyetli" olduğunu iddia etmediğini, yalnızca ihtiyati tedbir uyguladığını kaydetti.

Yetkililer, raporla ilgili olarak "Bu örnekleri paylaşarak yapay zeka sektöründe ortaya çıkan biyolojik riskler ve bunlara en etkili şekilde nasıl karşı konulabileceği konusunda bir diyalog başlatmayı umuyoruz" açıklamasında bulundu.

Şirket içinden ayrılık sinyali

Öte yandan, Anthropic çalışanı Jacob Coxon'un, yapay zekanın "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceği" gerekçesiyle şirketten istifa ettiği bilgisi de rapora eşlik etti. Coxon'un istifa açıklaması sosyal medyada milyonlarca kez görüntülenerek geniş yankı uyandırdı.

Bu gelişme, yapay zeka güvenliği konusunda sektör içindeki tartışmaların giderek derinleştiğini ve teknoloji şirketlerinin etik ikilemlerle karşı karşıya olduğunu bir kez daha ortaya koydu.