Anthropic araştırmacısından çarpıcı uyarı: Yapay zekanın insanlığı yok etme olasılığı yüzde 10'u aşıyor
Anthropic bünyesindeki araştırmacı Evan Hubinger, yapay zeka teknolojilerinin önümüzdeki on yıl içinde tüm insanlığı yok etme potansiyelinin yüzde 10'dan fazla olduğunu ileri sürdü.
Yapay zeka alanında faaliyet gösteren Anthropic şirketinin araştırmacılarından Evan Hubinger, teknolojinin geleceğine ilişkin endişe verici açıklamalarda bulundu.
Hubinger, yapay zeka sistemlerinin önümüzdeki 10 yıllık süreçte tüm insanları öldürebilme olasılığının yüzde 10'dan fazla olduğuna inandığını dile getirdi. Bu oran, teknoloji dünyasında sıklıkla tartışılan "yapay genel zeka" risklerinin ne denli ciddi boyutlara ulaşabileceğini gözler önüne serdi.
Yapay zekanın kontrol edilemez hale gelme riski
Anthropic araştırmacısının değerlendirmeleri, yapay zeka güvenliği alanında uzun süredir tartışılan senaryoları bir kez daha gündeme taşıdı. Özellikle insan seviyesinin ötesinde zekâ kapasitesine ulaşabilecek sistemlerin kontrol dışı davranışlar sergileme olasılığı, uzmanlar arasında derin kaygılara yol açıyor.
Hubinger'ın açıklamaları, yapay zeka teknolojilerinin geliştirilme hızı ile güvenlik önlemlerinin ne ölçüde paralel ilerlediği sorusunu yeniden tartışmaya açtı. Sektördeki pek çok araştırmacı, ileri düzey yapay zeka sistemlerinin insanlığın varlığını tehdit edebilecek senaryolara kapı aralayabileceği konusunda uyarılarda bulunuyor.
