Kan vi stole på Dr. AI?

Publisert: 16. februar 2023

Av: Ishita Barua

AI skal spille helsepersonell gode

Helsepersonell opplever stadig mer arbeidspress og at tid og ressurser ikke strekker til. Teknologi som AI er derfor sett på som en mulig løsning for å avlaste helsepersonell slik at de kan disponere kunnskap, tid og krefter der det trengs mest. AI-verktøy som benyttes i helsevesenet er ofte av typen “klinisk beslutningsstøtte”. Dette er verktøy som kan assistere helsepersonell til å fatte bedre og mer effektive kliniske beslutninger.

Disse kan ha følgende bruksområder og bidra til å spille helsepersonell gode:

• Diagnostikk: AI-verktøy kan bidra til å oppdage tilstander og sykdommer raskere for eksempel gjennom bildediagnostikk som kan finne alt fra brudd i skjelettet til kreft i ulike organer slik at pasienter kommer raskere til behandling.
• Behandling: AI-verktøy kan gi raskere og mer effektiv behandling. For eksempel kan AI komme frem til nye måter å lage legemidler på eller gi robot-assistanse til kirurgene under kirurgiske inngrep for å oppnå bedre presisjon.
• Prognoser: AI-verktøy kan brukes til å gjenkjenne mønstre i helsedata. For eksempel kan AI forutsi hvilke pasienter som har størst risiko for å utvikle infeksjon eller blodforgiftning og som dermed krever mer overvåkning fra helsepersonell.

AI-verktøy – nye kolleger som må bygge tillit

For at AI skal lykkes i å bidra til gode kliniske beslutninger, må helsepersonell oppleve at AI er et trygt og effektivt verktøy. Det fordrer at helsepersonell kan stole på teknologien, noe som er enklere sagt enn gjort da tillit til ny teknologi ikke nødvendigvis oppstår over natten. Og det tar tid å bygge tillit til det som er nytt. En av de største utfordringene knyttet til AI i dag er «blackbox-problemet». På grunn av måten algoritmene trenes opp gjennom maskinlæring og prosessering av store mengder data, kan det i enkelte tilfeller være vanskelig å forstå hvordan og hvorfor de kommer frem til en bestemt anbefaling. Dette er spesielt viktig i de tilfellene der helsepersonell enten ikke forstår grunnlaget for en bestemt anbefaling eller der helsepersonell er uenig i anbefalingen fra AI-systemet.

Å be mennesker forholde seg til en beslutning fordi AI-systemet sier det uten noen begrunnelser eller tilfredsstillende forklaringer, vil sannsynligvis føre til lavere nivåer av aksept og tillit både blant helsepersonell, sykehusledere, pasienter og pårørende. Utvikling av prosesser som nyttiggjør seg av AI-systemer på en transparent og forklarbar måte vil derfor være avgjørende for implementeringen av AI i klinisk praksis. I helsetjenesten hvor man praktiserer evidensbasert medisin forventes det at de fleste anbefalinger kan forklares og begrunnes.

AI-verktøy bør bygges i samarbeid med helsepersonell fra start

Vi har brukt de siste 10 årene på å få maskiner til å forstå oss bedre. De neste 10 årene bør i større grad handle om å hjelpe oss til å forstå maskinene. Dette vil sette oss i stand til å finne gode bruksområder for AI og hvordan AI kan utnyttes på en gunstig og meningsfylt måte. AI-verktøy til bruk innen helse bør derfor bygges i samarbeid med helsepersonell helt fra start. Slik kan man sikre seg at den unike og verdifulle kliniske kompetansen helsepersonell har inkluderes i verktøyet. Dette vil også bidra til at pasientenes behov gjenspeiles i hvilke maskinlæringsmodeller som utvikles. Vi anbefaler å starte med noen mindre og transparente prosesser der det er enklere å bli kjent med hvordan AI-verktøyene fungerer. Det skaper tillit og gir nyttig erfaring som man kan bygge videre på i neste prosjekt.

Her er tre forslag til hvordan helsesektoren kan utnytte Dr. AI på best mulig måte til pasientenes beste

• Kunstig intelligens er ment å være et godt støtteverktøy for helsepersonell når de tar livsviktige beslutninger til det beste for pasienten. Det skal ikke erstatte helsepersonell, men supplere og assistere dem.
• AI-systemer som skal brukes i helsevesenet bør være transparente og forklarbare for helsepersonell som skal bruke dem i pasientbehandling.
• AI-verktøy til bruk innen helse bør lages i samarbeid med helsepersonell fra start slik at man sikrer at den unike og verdifulle kliniske kompetansen til helsepersonell inkluderes i verktøyet.