San Francisco’da görülen bir dava dosyası, 39 yaşındaki David Rosenthal’ın ilaç seçimi, doz talimatları ve doktor reçetesini dikkate almama konusunda ChatGPT’ye yol gösterici gibi güvendiğini iddia ediyor. Şikâyetnameye göre kullanıcı, bu sürecin ardından geçen yıl haftalar boyunca hastanede kaldı.
Olay Nasıl Gelişti?
Dilekçede dikkat eksikliği ve depresyon gibi tanıları olan Rosenthal’ın, geçen yıl haziran ayında şiir yazmak için ChatGPT’ye yöneldiği belirtiliyor. Aynı belgede, kısa sürede sohbet botuna bağımlı hale geldiği ifade ediliyor.
Rosenthal’ın avukatları, ChatGPT’nin ilaç etkileşimleri hakkında hatalı yönlendirmeler yaptığını öne sürüyor. Şikâyete göre sohbet botu, hekimin yazdığı duygudurum dengeleyici ilacı bırakma kararını da onayladı.
Hukuki Dayanak ve Yapay Zeka Sorumluluğu
Şikâyet dilekçesi, yapay zekânın bu geri bildirimleri herhangi bir uzmanlık lisansı veya mesleki muhakeme olmadan sunduğunu vurguluyor. Dilekçe, bunun California yasalarına aykırı olduğunu ileri sürüyor.
Avukatlar, yapay zekânın güvenli protokoller yerine kullanıcı etkileşimini artırmaya odaklandığını ve bunun ruh sağlığını olumsuz etkilediğini savunuyor.
Hukukçular, yapay zekânın bir ürün sayılması gerektiğini ve öngörülebilir zararlardan dolayı sorumlu tutulması gerektiğini belirtiyor. Uzmanlar da büyük dil modellerinin hassas sorulara yanlış cevap verebildiğine ve denetim mekanizmalarının yetersiz kaldığına işaret ediyor.
OpenAI Suskun
OpenAI, dava hakkında şu ana kadar açıklama yapmadı.
