Google’ın Med-PaLM 2’nin sunabileceği risklerle ilgili endişeler var. Sağlık verilerinin nasıl toplanıp depolanıyor?
ABD’li Senatör Mark R. Warner, tıbbi metin ve eğitim modeliyle geliştirilen ve PaLM dil modeline dayanan yeni yapay zeka aracı Med-PaLM 2’nin hastanelerde kullanılmasıyla ilgili endişelerine ilişkin Google’ın ana kuruluşu Alphabet Üst Yöneticisi Sundar Pichai’ye mektup gönderdi.
HASTA VERİLERİNİN GİZLİLİĞİ KONUSUNA DEĞİNDİ
Yapay zekanın hasta bakımı ve sağlıkla ilgili sorunları iyileştirmek için ciddi bir potansiyele sahip olduğunu belirten Warner, diğer yandan doğruluğu test edilmemiş teknolojinin erkenden kullanılmaya başlanmasının tıp uzmanları ve kurumlarına güvenin aşınması ve mevcut ırksal eşitsizliklerin artmasının yanı sıra teşhis ve bakım süreçlerinde hata riskinde artış olmasından endişe duyduğunu bildirdi.
Warner, şirketlerin kendi aralarındaki rekabeti öncelediğine dikkati çekerek, hasta verilerinin gizliliğiyle ilgili gerekliliklere işaret etti.
Tıbbi amaçlarla yapay zeka kullanımının karmaşık yeni sorular ve riskler oluşturabileceğini vurgulayan Warner, Google’ın, Med-PaLM 2’nin yanıtlarının doktorların verdiği yanıtlardan hatalı veya alakasız bilgiler içerdiğini gösteren kendi araştırmasını örnek verdi.
Warner bu kapsamda Google’a, hassas sağlık verilerinin nasıl toplanıp saklandığı dahil bir düzine soru yöneltti.
