AI podejmuje decyzje o życiu pacjenta – zdanie lekarza jest drugorzędne

Galopujący rozwój sztucznej inteligencji miał być dla medycznego świata zbawieniem. Od AI oczekiwano rozwiązywania skomplikowanych zagadek, wynalezienia lekarstwa na raka i wyręczaniu lekarzy w przeciążonych placówkach. Cóż, w pewnym sensie pomogło, ale nie pacjentom czy personelowi, a dyrektorom spółek, pociągającym za sznurki od zaplecza. Jeden bowiem z algorytmów, który miał wskazywać jakiego rodzaju pomocy oraz świadczeń potrzebują pacjenci, stał się maszynką do ograniczania wydatków kosztem bezpieczeństwa chorych. Używającego go UnitedHealth – jedno z największych przedsiębiorstw medycznych w USA – zostało pozwane przez pacjentów, którym odmówiono świadczeń.

Myśleliście, że wizyty na NFZ są upiorne? To patrzcie na to...

O tym, że sztuczna inteligencja potrafi być wadliwa, a czasem nawet szkodliwa społecznie, pisaliśmy już wielokrotnie w kontekście dezinformacji czy przejawów rasizmu. Sęk w tym, że zupełnie czym innym jest niedoskonały model językowy, który stale podlega procesowi „uczenia”, a czym innym oprogramowanie skrojone w taki sposób, by działało na szkodę konkretnej grupy – w tym wypadku pacjentów ubezpieczonych w UnitedHealthcare.

Firma została oskarżona przez dwóch nieżyjących już mężczyzn o korzystanie z wadliwej sztucznej inteligencji i notoryczne, niesłuszne odmawianie skorzystania z usług medycznych. Sprawa jest wyjątkowo niesmaczna, bo dotyczy krytycznie chorych pacjentów w podeszłym wieku, potrzebujących długotrwałej opieki w placówkach medycznych. To, że pomoc lekarzy okazała się niewystarczająca to jedno, ale szokujący jest także fakt wystawienia przez placówkę rachunku 210 tys. dolarów za pobyt w placówkach i świadczenia medyczne, bo AI stwierdziło, że mężczyźni nie kwalifikują się do leczenia w ramach ubezpieczenia. Byli pracownicy firmy stojącej za oprogramowaniem twierdzą, że jego celem jest pomoc w zarabianiu na pacjentach jak największych pieniędzy.

Oszczędności kosztem zdrowia pacjenta – AI ważniejsze od lekarza

System, o którym mowa, to nH Predict stworzone przez NaviHealth. W założeniu oprogramowanie miało być między innymi odpowiedzialne za oszacowywanie czasu rekonwalescencji w ośrodkach opieki medycznej dla pacjentów po ostrym leczeniu, ale w praktyce nie jest tak kolorowo. Stat News przeprowadziło w tej sprawie śledztwo i rzekomo dotarło do byłych pracowników NaviHealth, którzy przekazali, że po przejęciu władzy przez UnitedHealth „uwaga przeniosła się z pomagania pacjentom na zarabianie pieniędzy i możliwie najkrótszy czas opieki”. UnitedHealthcare zarządza bowiem firmą NaviHealth od 2020, kiedy to doszło do rotacji na najwyższych stanowiskach.

Czytaj dalej poniżej

AI doskonale wie, na co chcesz wydać pieniądze. Ta nowość pomoże Ci w zakupach! Kacper Cembrowski

Microsoft stawia na AI. Sztuczna inteligencja trafi do każdego produktu Kamil Pieczonka

W złożonym pozwie zarzuca się, że AI w 90% przypadków podejmuje błędne decyzje, skracając czas leczenia w taki sposób, by oszczędzić jak najwięcej, narażając tym samym pacjentów na bezpośrednie zagrożenie życia. Co ciekawe sztuczna inteligencja ma też tendencję do kompletnego bagatelizowania opinii lekarzy i podejmuje decyzje w oparciu o najlepszy interes firmy. Wszystko wskazuje też na to, że AI działało wybiórczo, pomijając indywidualne potrzeby pacjentów i nie uwzględniając chorób współistniejących.

Pomimo wielokrotnych zgłoszeń oraz notorycznych skarg system wciąż pozostaje w użyciu i podejmuje decyzje, które niejednokrotnie stanowią o życiu i śmierci pacjenta, a pod jego jurysdykcją znajduje się około 6 milionów osób. Chorym powinno przysługiwać do 100 dni leczenia w ośrodkach rehabilitacyjnych, ale AI rzadko kiedy podejmuje decyzje o przetrzymywaniu ich tam dłużej, niż dwa tygodnie. System może z dnia zadecydować o odcięciu pacjenta od świadczeń i naliczyć opłaty za leczenie, a te – jak to zwykle w USA bywa – potrafią sięgać horrendalnych sum.

Stock image form Depositphotos