ABD’nin Washington eyaletinde yaşayan 31 yaşındaki Bowen Wan’ın ailesi, ChatGPT’nin epilepsi tedavisinde kullanılan ilaçları bırakma yönlendirmesinin genç kadının ölümüne neden olduğunu ileri sürerek OpenAI’a dava açtı.
Wan, işinden çıkarıldıktan sonra yeni bir iş bulma baskısıyla karşı karşıyaydı. Kullandığı epilepsi ilaçlarının yan etkilerinin iş görüşmelerinde konuşma ve düşünme becerisini olumsuz etkilediğini düşünen genç kadın, ilaçlarını bırakma konusunda ChatGPT’den destek istedi.
Dava dosyasındaki iddialara göre sohbet botu, Wan için ilaçları aşamalı biçimde bırakmayı öneren bir takvim hazırladı ve bu süreci doktorlarından gizlemesini yönlendirdi. ChatGPT’nin verdiği tıbbi tavsiyelerin, Wan’ın devam eden nöbetlerine rağmen tedaviyi sonlandırmasına yol açtığı savunuluyor.
Wan, önerilen süreci uyguladıktan sonra evinde nöbet geçirdi ve yaşamını yitirdi. Ailesi, ölümden sohbet botunun yönlendirmelerini sorumlu tutarak OpenAI hakkında haksız fiil ve ölüme ilişkin dava açtı.
Wan ailesinin avukatı Matthew Bergman, OpenAI’ın ürününü tıbbi bilgi sağlayıcısı olarak tanıttığını ve kullanıcıların şirketin açıklamalarına güvenmesinin makul olduğunu savundu. Avukat, davanın yapay zeka sistemlerinin sağlık konusundaki sınırlarını ve şirketlerin bu alandaki sorumluluklarını tartışmaya açtığını belirtti.
Dava, yapay zeka sistemlerinin sağlık sorularına verdiği yanıtların denetim ve düzenleme eksikliklerini gündeme getirdi. Hukuk uzmanları, benzer davaların yapay zeka şirketlerinin kullanıcılara yönelik yükümlülüklerinin belirlenmesi bakımından önem taşıyabileceğini bildirdi.
Kaynak: Evrensel
