Uzmanlar Uyardı: ChatGPT Bazı Acil Sağlık Durumlarını Atlayabiliyor
Yapay zeka destekli sohbet botları giderek daha fazla kişi tarafından sağlıkla ilgili sorular için kullanılıyor. Ancak Naturedergisinde yayımlanan yeni bir araştırma, ChatGPT’nin bazı tıbbi acil durumlarda riski olduğundan düşük değerlendirebildiğini ortaya koydu. Bulgular, özellikle erken belirtilerin görüldüğü vakalarda kullanıcıların yalnızca chatbot önerilerine güvenmemesi gerektiğine işaret ediyor.
Kaynak: Euronews
Yapay zekâ tabanlı sohbet botları giderek daha fazla kişi tarafından sağlık tavsiyesi almak için kullanılıyor.
OpenAI verilerine göre her hafta yaklaşık 230 milyon kullanıcı, gıdaların güvenliğinden alerji yönetimine kadar pek çok konuda ChatGPT’ye danışıyor. Ancak Nature dergisinde yayımlanan yeni bir araştırma, bu tür sistemlerin özellikle tıbbi acil durumlarda her zaman doğru yönlendirme yapamayabileceğini ortaya koydu.
Araştırmaya göre ChatGPT Health, açık şekilde tanımlanan felç veya ağır alerjik reaksiyon gibi klasik acil vakaları genellikle doğru şekilde tespit edebiliyor.
Buna karşın tehlikenin ilk belirtilerinin ortaya çıktığı daha karmaşık durumlarda risk değerlendirmesinde hatalar görülebiliyor. Örneğin incelenen bir astım senaryosunda sistem, solunum yetmezliğinin erken belirtilerini doğru biçimde tanımlamasına rağmen kullanıcıya acil servise gitmesini önermek yerine beklemesini tavsiye etti.
Çalışma kapsamında araştırmacılar 21 farklı tıp alanını kapsayan toplam 60 klinik senaryo hazırladı.
Senaryolar, evde tedavi edilebilecek hafif rahatsızlıklardan acil müdahale gerektiren ciddi sağlık sorunlarına kadar farklı düzeyleri içeriyordu. Her vakanın aciliyet derecesi ise 56 farklı tıp kuruluşunun kılavuzları temel alınarak üç bağımsız doktor tarafından değerlendirildi. Bulgular sistemin bazı acil vakalarda riski olduğundan düşük değerlendirdiğini gösterdi.
Araştırma ayrıca chatbotun kendine zarar verme veya intihar düşüncesi bildiren kullanıcılarla kurduğu iletişimi de analiz etti. Bu tür durumlarda sistemin kullanıcıyı profesyonel destek almaya yönlendirmesi ve kriz hattı bilgileri sunması gerekiyor. Ancak çalışmada bu uyarıların her zaman tutarlı biçimde verilmediği belirlendi. İlginç biçimde, kendine zarar verme yöntemi belirtmeyen kullanıcılara verilen yönlendirmelerin daha güçlü olduğu yöntem belirten durumlarda ise yanıtların zayıflayabildiği tespit edildi.
Araştırmacılar, elde edilen sonuçlara rağmen yapay zeka tabanlı sağlık araçlarının tamamen terk edilmesi gerektiğini savunmuyor.
Aksine, milyonlarca kişinin bu sistemleri kullanmaya başladığına dikkat çekerek sağlık sistemine dikkatli ve güvenli şekilde entegre edilmesi gerektiğini vurguluyor. Uzmanlar özellikle göğüs ağrısı, nefes darlığı, ağır alerjik reaksiyon veya bilinç değişikliği gibi belirtiler görüldüğünde chatbot önerilerine güvenmek yerine doğrudan sağlık hizmetine başvurulması gerektiğinin altını çiziyor.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
İlginizi çekebilir:
OpenAI’da Pentagon Gerilimi: Üst Düzey İsim Görevden Ayrıldı
Psikolojiye Göre İnsanların Hayatlarını Değiştirememesinin Gerçek Nedeni
Podcast Ekibi En Çok Kilo Aldıran Yiyecekleri Açıkladı
Yorum Yazın