ChatGPT'nin tıbbi tavsiyesi hastanelik etti

ABD'nin San Francisco kentinde yaşayan David Rosenthal, yapay zeka sohbet botu ChatGPT'nin sağlık konusundaki yönlendirmelerinin kendisine zarar verdiğini ileri sürerek OpenAI hakkında dava açtı.

Dava dilekçesine göre 39 yaşındaki Rosenthal, ChatGPT'yi ilaç seçimi, dozaj bilgileri ve doktorunun reçete ettiği tedaviye ilişkin kararlarında danışman olarak kullandı. Yapay zekanın herhangi bir tıbbi lisansa veya mesleki yetkinliğe sahip olmadan sunduğu tavsiyelerin California yasalarını ihlal ettiği savunuldu.

Doktorun reçete ettiği ilacı bırakmasını desteklediği iddiası

Daha önce dikkat eksikliği ve depresyon gibi sağlık sorunları yaşayan Rosenthal'ın, geçen yıl haziran ayında şiir yazmak amacıyla ChatGPT'yi kullanmaya başladığı belirtildi. Ancak zamanla platformla kurduğu etkileşimin yoğunlaştığı ve sohbet botuna bağımlılık geliştirdiği öne sürüldü.

Dilekçede, ChatGPT'nin ilaç etkileşimleri hakkında hatalı bilgiler verdiği ve Rosenthal'ın doktor tarafından reçete edilen duygudurum dengeleyici ilacı bırakma kararını desteklediği iddia edildi. Rosenthal'ın ruh sağlığının kötüleştiği ve geçen yıl haftalarca hastanede tedavi gördüğü aktarıldı.

Yapay zekanın hukuki sorumluluğu tartışılıyor

Rosenthal'ın avukatları, ChatGPT'nin kullanıcı güvenliğinden çok etkileşimi artırmaya yönelik tasarlandığını ve bunun özellikle ruh sağlığı açısından risk oluşturduğunu savundu.

Dava, yapay zeka sistemlerinin sağlık gibi hassas alanlarda sunduğu bilgilerin güvenilirliği ve olası zararlardan kimin sorumlu tutulacağına ilişkin tartışmaları yeniden gündeme taşıdı.

Uzmanlar, büyük dil modellerinin tıbbi konularda hatalı veya yanıltıcı yanıtlar verebileceğine dikkat çekerken, hukukçular da yapay zeka ürünlerinin öngörülebilir zararlara yol açması durumunda üretici şirketlerin sorumluluğunun tartışılması gerektiğini belirtiyor.