JEDNA od najvećih zdravstvenih mreža koje integriraju umjetnu inteligenciju u medicinu suočava se s optužbama da njezini alati imaju katastrofalne posljedice. U novoj građanskoj tužbi, bivša direktorica istraživanja i voditeljica za usklađenost s umjetnom inteligencijom klinike Mayo u SAD-u, Traci Tamiko Eto, tvrdi da joj se svjetski priznata bolnica osvetila jer je upozorila na pogubnu primjenu njihovih AI zdravstvenih alata, piše Futurism.

Prema izvješću radija Minnesota Public, Eto se pridružila klinici Mayo 2023. godine. Nakon što je ukazala na potencijalne probleme s privatnošću povezane s bolničkom platformom Mayo Clinic Platform, sustavom podataka s integriranom umjetnom inteligencijom, Eto tvrdi da je njezin nadređeni ignorirao njezinu zabrinutost. Umjesto toga, navodi kako je njezin šef "inzistirao" da bi rješavanje problema "ugrozilo tempo tekućih istraživačkih projekata, što bi zauzvrat ugrozilo konkurentsku prednost klinike Mayo".

Skrivanje nepovoljnih rezultata

Kako izvještava MPR, Eto je nastavila ukazivati na višestruke propuste visokih dužnosnika klinike Mayo u poštovanju saveznih propisa o procesima revizije novih tehnologija, poput MAYA-e, digitalnog asistenta klinike s integriranom umjetnom inteligencijom. Prema tužbi, tim koji je radio na MAYA-i brisao je nepovoljne rezultate testiranja, pogrešno prikazivao sposobnosti alata i donosio odluke koje su ugrozile sigurnost podataka.

U njezinih deset zasebnih prijava o nepravilnostima, napominje MPR, nalazi se i optužba da je tim koji je radio na MAYA-i znao da alat ima stopu pogreške od čak 67 posto. Eto tvrdi da su zaposlenici, umjesto da prijave tu zapanjujuću brojku, pokušali sakriti taj podatak.

Odmazda i ultimatum

Kao rezultat svojih prijava, Eto navodi da su je početkom 2025. godine počeli isključivati s izvršnih sastanaka, nakon čega joj je rečeno da se "loše uklapa u kulturu tvrtke". Prema tužbi, ponuđen joj je izbor: ili dati otkaz ili se suočiti s izmjenama u svom osobnom dosjeu "koje bi je učinile nezapošljivom u klinici Mayo i omele njezinu karijeru izvan institucije".

Njezin odvjetnik, Artur Davis, komentirao je njezinu odluku. "Kada pojedinac odluči tužiti javnog diva zbog gorućih pitanja u našoj zemlji, doslovno stavlja svoju karijeru na kocku", rekao je Davis za MPR. "Riskira da bude profesionalno napadnuta, svoj ugled, a to što je to učinila govori vam nešto o njezinoj razini uvjerenja da je u pravu."

Službeni stav klinike Mayo

Klinika Mayo bila je prilično suzdržana u odgovoru na tužbu. "Naša istraživanja i kliničke inovacije provode se u skladu s primjenjivim zakonima i propisima te ostajemo nepokolebljivi u očuvanju povjerenja koje nam pacijenti ukazuju i poštivanju njihove privatnosti", rekao je direktor komunikacija organizacije za MPR u izjavi. "Klinika Mayo ne komentira neriješene ili aktivne sudske sporove."

Iako se tužba bavi nezakonitim otkazom koji je dobila Eto, ona predstavlja i značajan test za stanje umjetne inteligencije u medicini. Ako zdravstveni div poput klinike Mayo laže o učinkovitosti svojih alata s umjetnom inteligencijom, postavlja se pitanje što to znači za ostatak industrije.

"Ako je ljudima stalo do toga da se s umjetnom inteligencijom mora postupati odgovorno, s integritetom, i da moraju postojati pravila i smjernice, onda je ovo slučaj koji bi ih trebao zanimati", zaključio je odvjetnik Davis.