Üretken yapay zeka sağlık hizmetleri için geliyor, uzmanlar uyarıyor!
Teknolojinin yeni gözdesi üretken yapay zekanın kapsamı giderek genişlerken, dev şirketlerin AI yatırımları da son hızıyla sürüyor. Yapay zekanın sağlık hizmetlerinde kullanılmaya başlanması ile ilgili bir kesim heyecanlanırken bir kesim ise teknolojinin bu denli bir kullanım için henüz hazır olmadığı görüşünde birleşiyor. Uzmanlar tıbbi teşhislerde yapay zeka kullanımının yaşamı tehdit eden durumlara yol açabileceğini vurguluyor
Görüntüler, metinler, sesler, videolar ve daha fazlasını oluşturabilen ve analiz edebilen üretken yapay zeka, hem teknoloji devleri hem de yeni başlayanlar tarafından zorlanarak sağlık hizmetlerine giderek daha fazla giriyor. Bu denli geniş kapsamlı kullanılabiliyor olması teknolojinin tartışmaların da odak noktasında olmasına sebep oluyor. Big Tech olarak da bilinen teknoloji devlerinin üretken yapay zeka yatırımlarını sağlık sektöründe de kullanmak için genişletmesi AI özelindeki tartışmaların yeniden alevlendiriyor.
Geçtiğimiz dönemde üretken yapay zekanın çok hızlı ve kontrolsüz gelişimi ile ilgili tartışmalar ortaya çıkmış ve bu durumun dolandırıcılıktan cinsel istismara kadar giden birçok problemi beraberinde getirebileceği için kontrolsüz olarak ilerlememesi gerektiği konusunda Elon Musk'ın başı çektiği teknoloji liderleri tarafından paneller ve konuşmalar düzenlenmişti. Şimdi ise benzer bir durum sağlık sektörü üzerinde gerçekleşiyor.
BIG TECH'TEN SAĞLIKTA AI YATIRIMI ATAĞI
Üretken yapay zekaya yönelik halkın ve teknoloji severlerin taşıdığı coşku, sağlık hizmetlerini hedefleyen üretken yapay zeka çabalarına yapılan yatırımlara da yansıyor. Toplu olarak, sağlık hizmeti girişimlerinde üretken yapay zeka, bugüne kadar on milyonlarca dolarlık risk sermayesi topladı ve sağlık yatırımcılarının büyük çoğunluğu, üretken yapay zekanın yatırım stratejilerini önemli ölçüde etkilediğini söylüyor.
Google'ın bulut hizmetleri ve ürünleri bölümü olan Google Cloud, Pittsburgh merkezli, kâr amacı gütmeyen bir sağlık şirketi olan Highmark Health ile hasta kabul deneyimini kişiselleştirmek için tasarlanmış üretken yapay zeka araçları üzerinde iş birliği yapıyor. Amazon'un AWS bölümü, "sağlığın sosyal belirleyicileri" için tıbbi veritabanlarını analiz etmek için üretken yapay zekayı kullanmanın bir yolu üzerinde isimsiz müşterilerle çalıştığını söylüyor. Ayrıca Microsoft Azure, kar amacı gütmeyen sağlık hizmetleri ağı Providence'ın hastalardan sağlık hizmeti sağlayıcılarına gönderilen iletileri otomatik olarak önceliklendirmesi için üretken bir yapay zeka sistemi oluşturulmasına yardımcı oluyor.
Sağlık hizmetlerinde öne çıkan üretken yapay zeka girişimleri arasında klinisyenler için üretken bir yapay zeka uygulaması geliştiren Ambience Healthcare, ortam yapay zeka asistanı olan Nabla ve tıbbi dokümantasyon için analiz araçları oluşturan Abridge de öne çıkan uygulamalar arasında yer alıyor.
TÜKETİCİLERİN YARISI ŞÜPHECİ
Ancak hem profesyonellerin hem de hastaların, sağlık odaklı üretken yapay zekanın bu denli bir çalışma için hazır olup olmadığı konusunda septik bir bakış açısına sahip olduğu görülüyor.
Önde gelen araştırma şirketlerinden Deloitte'un ABD'de gerçekleştirdiği bir ankette tüketicilerin yalnızca yarısı (yüzde 53'ü), üretken yapay zekanın sağlık hizmetlerini iyileştirebileceğini düşündüklerini belirtiyorlar. Yarısından biraz azı ise, üretken yapay zekanın tıbbi bakımı daha uygun fiyatlı hale getirmesini beklediklerini söylüyor.
"KAPSAMLI TIBBİ TAVSİYE İÇİN UYGUN DEĞİL!"
ABD Gazi İşleri Bakanlığı'nın en büyük sağlık sistemi olan VA Sunshine Healthcare Network'ün baş yapay zeka sorumlusu Andrew Borkowski Tech Crunch'a verdiği demeçte, yapay zekaya yöneltilen bu eleştirilerin ve akıllardaki soru işaretlerinin yersiz olduğunu düşünmediğini belirtti. Borkowski, üretken yapay zekanın genişlemesinin "önemli" sınırlamaları ve etkinliğiyle ilgili endişeler nedeniyle erken olabileceği konusunda uyarılarda bulundu.
Verdiği demeçte Borkowski, "Üretken yapay zeka ile ilgili en önemli sorunlardan biri, karmaşık tıbbi sorguları veya acil durumları ele alamamasıdır. Sınırlı bilgi tabanı, yani güncel klinik bilgilerin olmaması ve insan uzmanlığının eksikliği, kapsamlı tıbbi tavsiye veya tedavi önerileri sunmak için uygun değildir" ifadelerini kullandı.
VAKALARIN YÜZDE 83'ÜNDE HATA YAPTI
JAMA Pediatrics dergisinde yayınlanan bir makalede, OpenAI'nin bazı sağlık kuruluşlarının sınırlı kullanım durumları için pilot uygulaması yaptığı üretken yapay zeka sohbet robotu ChatGPT'nin pediatrik hastalıkları teşhis etmede %83 oranında hata yaptığı tespit edildi. Boston'daki Beth Israel Deaconess Tıp Merkezi'ndeki doktorlar, OpenAI'nin GPT-4'ünü bir teşhis asistanı olarak test ederken, modelin yanlış teşhisi yaklaşık üç üzerinden iki kez en iyi yanıt olarak sıraladığını gözlemledi.
Günümüzün üretken yapay zekası, klinisyenlerin günlük iş akışlarının bir parçası olan tıbbi idari görevlerle de mücadele ediyor. Üretken yapay zekanın hasta sağlık kayıtlarını özetlemek ve notlar arasında arama yapmak gibi şeyleri ne kadar iyi gerçekleştirebileceğini değerlendirmek için yapılan MedAlign karşılaştırmasında GPT-4, vakaların %35'inde başarısız oldu.
"YAŞAMI TEHDİT EDEN DURUMLARA YOL AÇABİLİR"
OpenAI gibi birçok diğer üretken yapay zeka yaratıcısı da tıbbi tavsiye için modellerine güvenmeye karşı uyarıyor. Ancak Borkowski ve diğerleri daha fazlasını yapabileceklerini söylüyorlar. Borkowski, "Sağlık hizmetleri için yalnızca üretken yapay zekaya güvenmek, yanlış teşhislere, uygunsuz tedavilere ve hatta yaşamı tehdit eden durumlara yol açabilir" şeklinde konuştu.
Duisburg-Essen Üniversitesi'nin Tıpta Yapay Zeka Enstitüsü'nde yapay zeka güdümlü tedavilere liderlik eden ve gelişmekte olan teknolojinin hasta bakımı için uygulamalarını inceleyen Jan Egger, Borkowski'nin endişelerini paylaşıyor. Üretken yapay zekayı şu anda sağlık hizmetlerinde kullanmanın tek güvenli yolunun bir doktorun yakın ve dikkatli gözetimi altında olduğuna inanıyor.
