Yapay zeka sağlıkta güveni zorluyor: Şeffaflık talebi artıyor

Avrupa Birliği'nde yapay zeka düzenlemeleri kapsamında sağlık hizmetlerinde kullanılan yapay zeka araçları yüksek riskli olarak sınıflandırılıyor. Bu araçlar, doktorların teşhis ve tedavi kararlarında daha fazla destek almasını sağlarken, hastaların bu süreçte ne kadar bilgilendirilmesi gerektiği tartışılıyor. Özellikle doktorların yapay zeka önerilerini hastalara nasıl açıklayacağı ve bu önerilerin sorumluluğunu nasıl üstleneceği konusu belirsizliğini koruyor.

Yapılan araştırmalar, insanların bir kısmının yapay zeka sohbet robotlarına kişisel sorunlarını anlattığını ve sağlık konusunda tavsiye aldığını gösteriyor. Ancak konu profesyonel sağlık hizmetlerine geldiğinde, hastalar doktorların kararlarında yapay zeka kullanılıp kullanılmadığını bilmek istiyor. ABD'de yapılan bir ankete göre, katılımcıların yaklaşık dörtte üçü sağlık hizmetlerinde yapay zeka kullanımının bildirilmesini önemli buluyor.

Doktorlar ve yapay zeka işbirliği

Sağlık alanında yapay zeka kullanımı hızla yaygınlaşıyor. Örneğin, ABD merkezli OpenEvidence platformu, doktorlara tıbbi bilgi sağlamak için yapay zeka sohbet robotu kullanıyor ve yaklaşık 650 bin ABD'li doktor ile 1,2 milyon yurt dışındaki doktor tarafından tercih ediliyor. Bu platform, doktorların klinik kararlarında destek almasını sağlıyor ve zaman zaman bir uzmandan görüş almakla eşdeğer görülüyor. Ancak bu durum, doktorun kendi bilgisiyle mi yoksa yapay zeka yönlendirmesiyle mi karar verdiği sorusunu beraberinde getiriyor.

Avrupa Birliği Yapay Zeka Tüzüğü, sağlık hizmetlerinde kullanılan yapay zeka araçlarını yüksek riskli olarak tanımlıyor ve bu araçların şeffaflık, teknik dokümantasyon ve denetim yükümlülüklerini beraberinde getiriyor. Ancak doktorların bir yapay zeka aracını serbestçe kullanması durumunda, bu araçların yüksek riskli sınıflandırmaya tabi olup olmayacağı hâlâ belirsiz. Ayrıca, doktorun yapay zeka kullanımını hastaya bildirme zorunluluğu da net değil.

Hastaların şeffaflık beklentisi

Hastaların yapay zeka kullanımı konusunda daha fazla bilgi sahibi olmak istediği görülüyor. ABD'de yapılan bir araştırmada, katılımcıların çoğu yapay zekanın veri analizi, karar verme ve sonuçları açıklama gibi süreçlerde kullanılıp kullanılmadığını bilmek istiyor. Ayrıca, yaklaşık üçte ikisi yapay zeka kullanımı üzerinde daha fazla söz hakkına sahip olmayı arzu ediyor. Bu durum, doktorların yapay zeka destekli kararlarını hastalara nasıl açıklayacağı ve hastaların bu süreçte ne kadar kontrol sahibi olacağı sorularını gündeme getiriyor.

Uzmanlar, yapay zekanın sağlık hizmetlerinde kullanımının artmasıyla birlikte, doktor-hasta ilişkisinde güvenin ve şeffaflığın korunması gerektiğini vurguluyor. Ancak bu dengeyi sağlamak kolay değil. Hastaların yapay zeka kullanımını reddetme veya doktorun kendi kararlarını vermesini talep etme hakkı olup olmadığı, üzerinde düşünülmesi gereken konular arasında.