Artikkel
Kan vi stole på Dr. AI?
Hvordan kan helsesektoren utnytte Dr. AI på best mulig måte?
I dag ser vi at kunstig intelligens (AI) kan bidra til å løse og automatisere en rekke oppgaver innen ulike bransjer. I hverdagen bruker vi stadig mer AI, gjennom blant annet strømmetjenester, netthandel og søkemotorer. Innenfor helse ser vi et økende antall bruksområder for AI, for eksempel i form av sensorteknologi i smartklokker som fanger opp hjerterytmeforstyrrelser. Mulighetsrommet er stort. Til tross for dette er AI-teknologi i liten grad tatt i bruk på norske sykehus og norske legekontorer. Hvordan kan helsesektoren utnytte Dr. AI på best mulig måte? Og kan vi faktisk stole på at AI bidrar til bedre helsetjenester?
Publisert: 16. februar 2023
AI skal spille helsepersonell gode
Helsepersonell opplever stadig mer arbeidspress og at tid og ressurser ikke strekker til. Teknologi som AI er derfor sett på som en mulig løsning for å avlaste helsepersonell slik at de kan disponere kunnskap, tid og krefter der det trengs mest. AI-verktøy som benyttes i helsevesenet er ofte av typen “klinisk beslutningsstøtte”. Dette er verktøy som kan assistere helsepersonell til å fatte bedre og mer effektive kliniske beslutninger.
Disse kan ha følgende bruksområder og bidra til å spille helsepersonell gode:
- Diagnostikk: AI-verktøy kan bidra til å oppdage tilstander og sykdommer raskere for eksempel gjennom bildediagnostikk som kan finne alt fra brudd i skjelettet til kreft i ulike organer slik at pasienter kommer raskere til behandling.
- Behandling: AI-verktøy kan gi raskere og mer effektiv behandling. For eksempel kan AI komme frem til nye måter å lage legemidler på eller gi robot-assistanse til kirurgene under kirurgiske inngrep for å oppnå bedre presisjon.
- Prognoser: AI-verktøy kan brukes til å gjenkjenne mønstre i helsedata. For eksempel kan AI forutsi hvilke pasienter som har størst risiko for å utvikle infeksjon eller blodforgiftning og som dermed krever mer overvåkning fra helsepersonell.
AI-verktøy – nye kolleger som må bygge tillit
For at AI skal lykkes i å bidra til gode kliniske beslutninger, må helsepersonell oppleve at AI er et trygt og effektivt verktøy. Det fordrer at helsepersonell kan stole på teknologien, noe som er enklere sagt enn gjort da tillit til ny teknologi ikke nødvendigvis oppstår over natten. Og det tar tid å bygge tillit til det som er nytt. En av de største utfordringene knyttet til AI i dag er «blackbox-problemet». På grunn av måten algoritmene trenes opp gjennom maskinlæring og prosessering av store mengder data, kan det i enkelte tilfeller være vanskelig å forstå hvordan og hvorfor de kommer frem til en bestemt anbefaling. Dette er spesielt viktig i de tilfellene der helsepersonell enten ikke forstår grunnlaget for en bestemt anbefaling eller der helsepersonell er uenig i anbefalingen fra AI-systemet.
Å be mennesker forholde seg til en beslutning fordi AI-systemet sier det uten noen begrunnelser eller tilfredsstillende forklaringer, vil sannsynligvis føre til lavere nivåer av aksept og tillit både blant helsepersonell, sykehusledere, pasienter og pårørende. Utvikling av prosesser som nyttiggjør seg av AI-systemer på en transparent og forklarbar måte vil derfor være avgjørende for implementeringen av AI i klinisk praksis. I helsetjenesten hvor man praktiserer evidensbasert medisin forventes det at de fleste anbefalinger kan forklares og begrunnes.
I helsevesenet hvor man praktiserer evidensbasert medisin forventes det at de fleste anbefalinger kan forklares og begrunnes
AI-verktøy bør bygges i samarbeid med helsepersonell fra start
Vi har brukt de siste 10 årene på å få maskiner til å forstå oss bedre. De neste 10 årene bør i større grad handle om å hjelpe oss til å forstå maskinene. Dette vil sette oss i stand til å finne gode bruksområder for AI og hvordan AI kan utnyttes på en gunstig og meningsfylt måte. AI-verktøy til bruk innen helse bør derfor bygges i samarbeid med helsepersonell helt fra start. Slik kan man sikre seg at den unike og verdifulle kliniske kompetansen helsepersonell har inkluderes i verktøyet. Dette vil også bidra til at pasientenes behov gjenspeiles i hvilke maskinlæringsmodeller som utvikles. Vi anbefaler å starte med noen mindre og transparente prosesser der det er enklere å bli kjent med hvordan AI-verktøyene fungerer. Det skaper tillit og gir nyttig erfaring som man kan bygge videre på i neste prosjekt.
Her er tre forslag til hvordan helsesektoren kan utnytte Dr. AI på best mulig måte til pasientenes beste
- Kunstig intelligens er ment å være et godt støtteverktøy for helsepersonell når de tar livsviktige beslutninger til det beste for pasienten. Det skal ikke erstatte helsepersonell, men supplere og assistere dem.
- AI-systemer som skal brukes i helsevesenet bør være transparente og forklarbare for helsepersonell som skal bruke dem i pasientbehandling.
- AI-verktøy til bruk innen helse bør lages i samarbeid med helsepersonell fra start slik at man sikrer at den unike og verdifulle kliniske kompetansen til helsepersonell inkluderes i verktøyet.
Deloitte Helse
Vi satser på helsesektoren! Deloitte er Norges største kunnskapshus innenfor rådgivningstjenester i helsesektoren. Vi arbeider med nasjonale myndigheter, regionale helseforetak, helseforetak i alle landets regioner, og kommunal sektor. Vi er mer enn 100 personer som jobber med helse. Sammen med helsesektoren jobber vi for å skape helhetlige, trygge og nyskapende tjenester som fremmer helse og mestring.