ChatGPT'nin yanlış tıbbi tavsiyesi OpenAI'ı mahkemeye taşırdı

ABD'de yaşayan bir kişi, yapay zeka sohbet robotu ChatGPT'nin kendisini tıbbi tedavi almaktan vazgeçirmesi nedeniyle sağlığının ciddi şekilde kötüleştiğini öne sürerek OpenAI'a karşı hukuki süreç başlattı.

Yapay zeka tavsiyesi hayati risk oluşturdu

Davacı, ABD merkezli teknoloji devi OpenAI tarafından geliştirilen ChatGPT'ye sağlık şikayetlerini danıştı. Yapay zeka robotu, kullanıcıya profesyonel tıbbi yardım almaması yönünde bir tavsiyede bulundu. Bu öneriye güvenen kişi, hastalığı hayati tehlike oluşturacak bir seviyeye gelene kadar tedavi sürecinden uzak kaldı.

OpenAI'a ağır suçlamalar

Mahkemeye sunulan dava dilekçesinde, OpenAI'ın geliştirdiği yapay zeka modelinin yanıltıcı ve tehlikeli tıbbi yönlendirmelerde bulunduğu vurgulandı. Davacı, sohbet robotunun tıbbi konularda yetkin olmadığı halde kullanıcıları etkileyebilecek kadar ikna edici yanıtlar verdiğini ve bunun ciddi sonuçlar doğurduğunu savundu.

Tartışma büyüyor

Bu dava, yapay zeka teknolojilerinin sağlık alanında kullanımına ilişkin önemli soru işaretlerini yeniden gündeme taşıdı. Uzmanlar, kullanıcıların yapay zeka uygulamalarından gelen tıbbi tavsiyelere körü körüne güvenmemesi gerektiğini, her koşulda uzman hekimlere başvurmanın hayati önem taşıdığını belirtiyor.

OpenAI'ın söz konusu dava hakkında henüz resmi bir açıklama yapıp yapmadığı ise merak konusu oldu. Şirketin, yapay zeka modellerinin sağlık konularındaki sınırlamalarına ilişkin kullanıcı uyarılarını güçlendirip güçlendirmeyeceği yakından takip ediliyor.