Yapay zekanın günlük yaşamda giderek daha fazla kullanılması, sağlık alanındaki tehlikeleri de yeniden gündeme taşıdı. ABD'de yaşayan 31 yaşındaki epilepsi hastası Bowen Wan, kullandığı ilaçların dozunu değiştirmek için ChatGPT'ye danışmasının ardından yaşamını yitirdi. Genç kadının ailesi, yapay zekanın doktor kontrolü olmadan ilaç azaltma planı hazırladığını ve bu sürecin ölümle sonuçlandığını öne sürdü. Olayın ardından OpenAI ve şirketin CEO'su Sam Altman'a dava açılırken, yapay zekanın verdiği sağlık tavsiyelerinin güvenilirliği yeniden tartışılmaya başlandı.
Yapay zekaya danıştı, hayatını kaybetti
ABD'nin Washington eyaletindeki Seattle kentinde yaşayan Bowen Wan, uzun süredir epilepsi tedavisi görüyordu. Yazılım mühendisi olarak çalışan genç kadın, kullandığı ilaçların düşünme ve konuşma becerilerini olumsuz etkilediğinden endişeleniyordu. İşini kaybetmesinin ardından yeni iş görüşmelerine hazırlanan Wan, ilaçlarının yan etkilerini azaltmanın yollarını araştırmaya başladı. Ancak bu süreçte bir doktora başvurmak yerine yapay zeka sohbet robotundan yardım alması, ailesinin iddiasına göre ölümüne uzanan sürecin başlangıcı oldu.
ChatGPT'nin hazırladığı plan ortaya çıktı
Ailenin mahkemeye sunduğu iddialara göre ChatGPT, Bowen Wan'ın günlük 400 miligram kullandığı epilepsi ilacının dozunu yaklaşık 25 gün içerisinde sıfıra indirmesini öngören bir program oluşturdu. İlk görüşmelerde doktor kontrolünün önemine dikkat çeken sistemin, sonraki konuşmalarda ilaç dozunun azaltılmasını destekleyen yanıtlar verdiği öne sürüldü. Genç kadının bu önerileri dikkate alarak tedavisinde değişikliğe gittiği belirtilirken, ortaya çıkan yazışmalar yapay zekanın tıbbi konulardaki sorumluluğunu tartışmaya açtı.
Doktorundan gizlemesini önerdiği iddia edildi
Dava dosyasında yer alan en çarpıcı iddialardan biri, yapay zekanın genç kadına ilaç azaltma sürecini doktoruyla paylaşmamasını önerdiği yönünde oldu. Ailenin aktardığına göre Wan, 29 Ocak'taki doktor randevusundan önce ChatGPT ile yaptığı görüşmelerde tedavisindeki değişiklikleri ele aldı. Sohbet robotunun bu bilgileri doktorundan gizlemesini tavsiye ettiği ileri sürüldü. Ayrıca kanındaki ilaç seviyesini ölçtürmeme kararının da yapay zeka tarafından desteklendiği iddia edildi.
Ölümünden önce defalarca yardım istedi
Bowen Wan'ın yapay zeka ile yaptığı görüşmelerin ayrıntıları, dava sürecinde dikkat çeken başka bilgileri de ortaya çıkardı. İddialara göre genç kadın, ilaç dozunu azaltmasının ardından hafıza sorunları, bilinç bulanıklığı ve zaman algısında bozulmalar yaşamaya başladı. Bu şikâyetlerini ChatGPT'ye en az 158 kez ilettiği belirtilirken, sistemin bazı belirtileri ilaç değişikliğine uyum süreciyle ilişkilendirdiği öne sürüldü. Aile, ciddi sağlık belirtilerine rağmen yeterli uyarı yapılmadığını savunuyor.
Evinde ölü bulundu
Çin'de yaşayan ailesinin kendisinden haber alamaması üzerine Seattle'daki tanıdıklarından yardım istemesiyle genç kadının ölümüne ilişkin acı gerçek ortaya çıktı. Bowen Wan, 14 Şubat 2026 tarihinde evinde ölü bulundu. Adli tıp incelemesinde ölüm nedeni, epilepsi hastalarında görülebilen ani beklenmedik ölüm olarak kaydedildi. Ölüm sonrası yapılan testlerde ise kanındaki epilepsi ilacı seviyesinin tedavi aralığının oldukça altında olduğu bildirildi. Ancak ilaç değişikliğinde yapay zekanın oynadığı rolün ölümle doğrudan bağlantısı henüz hukuken kesinleşmedi.
Ailesi teknoloji devine dava açtı
Genç kadının anne ve babası, 27 Ekim 2026 tarihinde OpenAI ve CEO Sam Altman'a karşı hukuki süreç başlattı. Aile, ChatGPT'nin sağlık açısından tehlikeli olabilecek kişiselleştirilmiş yönlendirmeler verdiğini ve doktor gözetimi olmadan ilaç kullanımının değiştirilmesini teşvik ettiğini savundu. Açılan davada ihmal, yetersiz güvenlik önlemleri ve ölüm nedeniyle sorumluluk iddiaları gündeme getirildi. Aile ayrıca benzer olayların yaşanmaması için yapay zeka sistemlerinin tıbbi tavsiyelerine daha sıkı sınırlamalar getirilmesini talep etti.
OpenAI'dan açıklama geldi
Davanın ardından OpenAI tarafından yapılan açıklamada, yaşanan ölümün son derece üzücü olduğu belirtilerek aileye başsağlığı dilekleri iletildi. Şirket, söz konusu görüşmelerin artık kullanımda olmayan GPT-4o modeliyle gerçekleştirildiğini bildirdi. ChatGPT'nin profesyonel tıbbi bakımın yerine geçemeyeceği vurgulanırken, yapay zekanın sağlıkla ilgili bilgilerin anlaşılmasına ve doktor görüşmelerine hazırlanmaya yardımcı bir araç olarak değerlendirilmesi gerektiği ifade edildi. Şirket, sağlık konularındaki yanıtların güvenliğini geliştirmek amacıyla uzmanlarla çalışmayı sürdürdüğünü açıkladı.
Uzmanlardan hayati uyarı
Yaşanan olay, özellikle düzenli ilaç kullanması gereken hastaların yapay zeka tavsiyelerine ne ölçüde güvenebileceği sorusunu gündeme taşıdı. Uzmanlar, epilepsi gibi ciddi hastalıklarda ilaç dozunun hekim kontrolü dışında azaltılmasının veya tedavinin aniden kesilmesinin nöbet riskini artırabileceğine dikkat çekiyor. Yapay zeka sistemleri hastaların geçmiş sağlık kayıtlarını, muayene bulgularını ve kişisel risklerini her zaman eksiksiz değerlendiremiyor. Bu nedenle ilaç bırakma, doz değiştirme veya yeni tedaviye başlama kararlarının mutlaka yetkili sağlık uzmanları tarafından verilmesi gerektiği vurgulanıyor.
Bowen Wan'ın ölümüne ilişkin dava devam ederken, mahkemenin yapay zekanın verdiği yanıtlarla yaşanan ölüm arasında hukuki sorumluluk bulunup bulunmadığına karar vermesi bekleniyor. Olay, dijital teknolojilerin sağlık alanındaki kullanımında güvenlik sınırlarının ne kadar önemli olduğunu bir kez daha gösterdi.
