ChatGPT’nin Tıbbi Yönlendirmesi Hastanelik Etti: Yapay Zeka Sorumluluğu Tartışması
San Francisco’da görülen dava, sağlık kararlarında yapay zeka destekli sohbet botlarının konumunu ve üreticilerin hukuki yükümlülüklerini yeniden tartışmaya açtı. 39 yaşındaki David Rosenthal, ilaç tercihi, doz ve hekim reçetesi gibi konularda ChatGPT’den yol gösterici olarak yararlandığını anlatarak haftalar süren hastane tedavisi geçirdiğini ifade etti.
Dava dilekçesinde, yapay zekanın uzmanlık belgesi veya mesleki muhakeme sunmadan bu tür geri bildirimlerde bulunmasının California mevzuatına aykırı olduğu öne sürülüyor. Daha önce dikkat eksikliği ve depresyon tanısı almış olan Rosenthal, geçen yıl uzun süre hastanede kaldı. Vaka, büyük dil modellerinin hassas sağlık sorularına verdikleri yanıtların daha sıkı denetime ihtiyaç duyduğunu bir kez daha hatırlatıyor.
Teşvik ve Bağımlılık Süreci
Rosenthal, geçen yıl haziran ayında şiir üretmek için platforma girmeye başladı; kısa zamanda sohbet botuna aşırı bağımlı hale geldiği iddia ediliyor. ChatGPT’nin ilaç etkileşimlerinde hatalı yönlendirmeler yaptığı ve doktorunun yazdığı duygudurum dengeleyiciyi bırakma kararını onayladığı belirtiliyor. Etkileşimi artırmaya yönelik tasarımın ruh sağlığını zedeleyebileceği vurgulanırken, avukatlar güvenlik protokollerinden çok etkileşim odaklı yapının bu tabloya yol açtığını savunuyor.
Yapay Zeka Sorumluluğu Tartışması
Uzmanlar, büyük dil modellerinin hassas başlıklarda yanlış bilgi üretebildiğini ve denetim araçlarının yetersiz kaldığını kaydediyor. Hukukçular yapay zekayı bir ürün sayarak öngörülebilir zararlardan sorumluluk beklediklerini dile getiriyor. OpenAI ise konu hakkında şu ana kadar açıklama yapmış değil. Dava, yapay zeka şirketlerinin tıbbi danışmanlık sınırlarını ve kullanıcı güvenliğini nasıl koruyacağına ilişkin önemli bir emsal doğurabilir.
