UT Southwestern Medical Centerin tutkijat ovat havainneet, että tekoälyyn perustuvat kiireellisyysarviointityökalut, joita käytetään päivystyksen potilaiden priorisoinnissa, saattavat heijastaa samoja kliinisiä ennakkoluuloja kuin ihmisten tekemät arviot. Tämä voi johtaa haitallisiin vinoumiin ja potilaiden väärään priorisointiin.
Tutkimus paljasti tekoälyn heikkoudet
Tutkimuksessa analysoitiin potilastietoja kahdesta suuresta akateemisesta laitoksesta, Stanford Medicine ja Beth Israel Deaconess Medical Center. Potilaat, joilla oli samankaltainen sairauden vakavuus, asetettiin pareiksi, ja kolme avointa suurta kielimallia (LLM) arvioivat, ketkä potilaat todennäköisesti huonontuisivat ja ketkä tulisi priorisoida hoidossa. Aluksi mallit tunnistivat korkeamman riskin potilaat selvästi yli sattumanvaraisen tason.
Kuitenkin, kun potilastietoihin lisättiin demografisia, sosiaalisia tai mahdollisesti leimaavia tietoja, kuten mielenterveyshistoriaa tai päihteiden käyttöä, mallit alkoivat tehdä virheitä. Erityisesti potilaat, joilla oli merkintöjä psykiatrisista hätätilanteista tai jotka olivat usein päivystyksen käyttäjiä, saivat alempia prioriteetteja, vaikka heidän terveydentilansa oli heikentymässä. Tämä muistuttaa ihmisten tekemää triage-arviointia, jossa ”frequent flyer” -leiman saaneet potilaat voivat jäädä vähemmälle huomiolle.
Kielimallien monimutkaisuus ja ennakkoluulot
Kielimallit eivät reagoineet kaikkiin tietoihin samalla tavalla. Esimerkiksi ikä vaikutti päätöksiin, mutta se johtui todennäköisesti ikään liittyvistä terveysriskeistä eikä suoranaisesta ikäsyrjinnästä. Tutkijat havaitsivat, että bias vaihtelee mallista toiseen, joten jokainen tekoälytyökalu tulisi testata oikeita potilastuloksia vasten ennen käyttöönottoa.
Tutkimuksen seuraava vaihe on kehittää malleja, jotka ennustavat potilaiden tilan heikentymistä sekä rakenteellisten tietojen että kliinisten tekstien perusteella. Tämä voisi parantaa potilaiden priorisointia päivystyksessä.
Potilastietojen dokumentointi ratkaisevassa asemassa
Tutkimuksen tulokset viittaavat siihen, että potilastietojen dokumentointi voi vaikuttaa siihen, tekevätkö tekoälyjärjestelmät oikeudenmukaisia ja tarkkoja päätöksiä. Kun sairaalat yhä enemmän tutkivat tekoälyn käyttöä hoidon priorisoinnissa, on tärkeää varmistaa, että potilastiedot esitetään tavalla, joka ei johda vinoutuneisiin arvioihin.
Miksi tämä on tärkeää
Tekoälyn rooli terveydenhuollossa kasvaa jatkuvasti, ja sen avulla voidaan käsitellä monimutkaista tietoa tehokkaasti. Kuitenkin, kuten tämä tutkimus osoittaa, on olennaista ymmärtää, miten nämä järjestelmät tekevät päätöksiä ja mitä vaikutuksia niillä voi olla potilaiden hoitoon. Suomessa, missä terveydenhuoltojärjestelmä perustuu yhdenvertaisuuteen ja oikeudenmukaisuuteen, on erityisen tärkeää varmistaa, että tekoälytyökalut tukevat näitä periaatteita eivätkä heikennä niitä. Tekoälyn oikeudenmukainen käyttö voi parantaa hoidon saatavuutta ja laatua, mutta se edellyttää jatkuvaa tutkimusta ja järjestelmien kriittistä arviointia.
