Palantir Timpani Hemşire Vardiyalarını Karıştırıyor

ABD'nin en büyük hastane zinciri HCA Healthcare, vardiya planlamasını yapay zekaya devretti. Palantir ile birlikte geliştirdiği Timpani adlı araç, 2023'ten bu yana yaklaşık 190 lokasyonun 130'unda devrede. Ancak Wired'a konuşan hemşireler, yazılımın hatalı planlar ürettiğini, tükenmişliği artırdığını ve hasta güvenliğini riske attığını söylüyor.

Şikayetin özü: talepler yok sayılıyor

Florida'da yoğun bakım hemşiresi olan Amber Retzloff, dört ayda belirli 50 adet 12 saatlik vardiya talep ettiğini, ancak yazılımın yarısından fazlasında onu farklı vardiyalara atadığını belirtiyor. Retzloff her zaman istediği saatleri almayı beklemediğini; ancak aracın, yöneticilerin elle yaptığı planlamadan çok daha kötü iş çıkardığını söylüyor. HCA genelinde beş farklı lokasyondaki hemşireler de benzer şikayetlerde bulunuyor.

Hasta güvenliği iddiası

Wired'a konuşan hemşireler, Timpani'nin bakım ekiplerini eksik, dengesiz ve yorgun bırakarak hastalara potansiyel zarar verdiğini iddia ediyor. Araç, özellikle pazar günleri yeterince hemşire ya da yeterli sayıda deneyimli personel planlamıyor. Ayrıca hemşirelerin vardiyaları aralama, gece ve hafta sonu çalışma ya da belirli günleri izin alma tercihlerini sıklıkla göz ardı ediyor. Sonuç olarak hemşireler, yazılım gelmeden önceye kıyasla vardiya takası ya da itiraz için daha fazla zaman harcıyor.

Deneyimli personel sorunu

Retzloff, kendisinin on yıl deneyimli tek kıdemli hemşire olduğu vardiyalarda, en hasta hastalar için bakımı geciktirip yeni hemşirelere rehberlik etmek zorunda kaldığını anlatıyor. Ona göre HCA "yapay zekanın dikte etmesine" izin veriyor ve kişiler arası sağlık hizmeti giderek bir uygulamaya devrediliyor.

Şirketin savunması

HCA sözcüsü Harlow Sumerford, nihai vardiya kararlarını Timpani'nin değil hemşirelik liderlerinin verdiğini söylüyor. Aracın "hasta bakımı pahasına personel azaltmak için tasarlandığı" iddialarını yanıltıcı buluyor. HCA, Timpani'nin yöneticilerin planlamaya harcadığı saatleri azalttığını, pahalı sözleşmeli hemşire ihtiyacını düşürdüğünü ve personel tutmayı artırdığını belirtiyor.

Yasal süreç ve veri silme iddiası

Temmuz ayında eski bir HCA veri bilimi yöneticisi Angelique Russell, Timpani hakkındaki endişelerini dile getirdiği için işten çıkarıldığı iddiasıyla şirkete dava açtı. Russell, HCA'nın aracın planlama için kullandığı verileri rutin olarak sildiğini, bunun da aracın ne kadar iyi çalıştığının denetlenmesini engellediğini ve bazı sağlık yasalarını ihlal edebileceğini öne sürdü.

Daha geniş bir örüntü

Sorun yalnızca HCA ile sınırlı değil. Büyük bir görüntüleme zinciri Rayus Radiology de Palantir Foundry üzerine kurulu bir planlama aracını devreye aldıktan sonra hatalı eşleştirme şikayetleri aldı; bazı durumlarda test talepleri yanlış hasta profilleriyle eşleşti ya da hastalar hakkında uydurma bilgiler oluşturuldu. Palantir, yazılımının bilgiyi yalnızca daha kullanışlı biçimde sunduğunu, veri, politika ve kararların sorumluluğunun müşteride olduğunu vurguluyor. Hemşireler ise planlamada insan denetiminin şart olduğunu savunuyor.

Uzun vadeli etki

Hastane yönetiminde yapay zekanın yükselişi, verimlilik vaadiyle personel deneyimi arasındaki dengeyi zorluyor. Araştırmalar yapay zeka destekli planlamanın potansiyel taşıdığını gösterse de HCA örneğinde hemşireler, aracın günlük kaygı kaynağı haline geldiğini söylüyor. Ulusal Hemşireler Birliği, yaklaşık 10.000 HCA hemşiresini temsil ediyor ve şirketin teknolojiye dair bilgi taleplerini reddettiğini belirtiyor.

Bu tartışma, kritik hizmetlerde yapay zekanın nasıl denetleneceği sorusunu gündeme getiriyor. Vardiya planlaması gibi insan hayatını doğrudan etkileyen kararlarda, algoritma ile insan yargısının nasıl dengeleneceği önümüzdeki dönemde sağlık sektörünün en önemli gündem maddelerinden biri olacak.

Sonuç

Timpani örneği, yapay zekanın verimlilik vaadinin tek başına yeterli olmadığını gösteriyor. Kritik hizmetlerde algoritmanın hızı ile insan yargısının bağlam bilgisi arasında kurulacak denge, teknolojinin başarısını belirleyecek. Hemşirelerin talebi net: planlama kararlarında insan denetimi korunmalı.