AI kan forudsige din risiko for kræft – men vil du vide det?
Tidligere har der siddet to radiologer og kigget mammografiscreeninger igennem. I dag kan den ene erstattes af en AI. Foto Cancer Institute, Unsplash
Hvordan håndterer vi etiske dilemmaer i sundhedsvæsenet, når vi bruger AI? Det har leder af Center for AI Etik på SDU, Anne Gerdes, fået 3,7 millioner til at undersøge.
Da Danmarks Frie Forskningsfond i efteråret uddelte 53 millioner kroner til forskning i kunstig intelligens med fokus på ”ansvarlig udvikling og brug”, modtog otte forskningsprojekter penge. Et af dem var: ”Responsible Artificial Intelligence in Danish Healthcare”, som leder af center for AI Etik og professor ved Institut for Design, Medier og Uddannelsesvidenskab på Syddansk Universitet, Anne Gerdes, står bag.
Projektet fik næsten 3,7 millioner kroner til at undersøge kunstig intelligens i sundhedsvæsenet, hvor det i dag bl.a. bruges i forbindelse med mammografiscreeninger og diagnosticering af knoglefrakturer, slidgigt og hudkræft. Og selvom Anne Gerdes understreger, at de forskellige løsninger er indført på forsvarlig vis, mener hun også, at der er brug for mere viden om de etiske problemstillinger, så man kan understøtte brugen af AI bedst muligt i sundhedsvæsnet.
En AI kan f.eks. bruges til at forudsige, hvor stor risiko der er for at få kræft, men hvad er vores holdninger til at få sådan en forudsigelse?
Etisk legitim forklaring
Projektet ”Responsible Artificial Intelligence in Danish Healthcare” er inddelt i tre faser. Den første handler om at undersøge patienters perspektiver på AI i forbindelse med brystkræftscreening.
- Tidligere har der siddet to radiologer og kigget screeningerne igennem, men nu kan den ene læge erstattes af en AI. Og overordnet er resultaterne gode, og studier viser, at det virker. Man kan se, at man får det bedste resultat, når det er et samarbejde mellem et menneske og en AI. Så der er fordele ved at bruge AI, men der er også en række etiske problemstillinger, siger Anne Gerdes.
- I projektet handler det bl.a. om at finde ud af, hvilke overvejelser der allerede er blevet gjort internationalt på området. En AI kan f.eks. bruges til at forudsige, hvor stor risiko der er for at få kræft, men hvad er vores holdninger til at få sådan en forudsigelse?
En anden problematik er, hvordan man tackler, at man ikke har mulighed for at forstå, hvordan komplekse AI-systemer når frem til et resultat. Det er ofte ikke forklarbart, hvad der sker i AI’ens ”maskinrum”, men selvom en AI performer godt, så har læge og patient stadig brug for en forklaring.
- Hvis en AI-anbefaling går på, at det bedste behandlingsresultat opnås, hvis patienten får amputeret et ben, så kan man selvfølgelig ikke bare sige: ”Vi kan ikke svare på hvorfor, men AI-systemet performer supergodt, så det gør vi”. Desværre kan vi ikke forstå komplekse AI-systemers indre virkningsmekanismer. Vi kan kun få tilnærmede oversættelser eller forklaringer på, hvordan resultater fremkommer. Derfor skal vi forholde os til, hvad der kræves, før vi kan sige, at en forklaring er brugbar og etisk legitim, forklarer Anne Gerdes og påpeger, at en AI også kan komme med et rigtigt svar på et forkert grundlag eller tage fejl. Og hvordan tackler man det, når man ikke altid har mulighed for at finde ud af, hvorfor den har gjort, som den har gjort? Som hun siger:
- Det er jo noget andet med et menneske, der tager fejl. For her forstår vi hinanden, og vi antager også, at den anden vil gøre en indsats for, at det ikke sker igen.
AI kan svække vores faglige dømmekraft
Den anden del af projektet handler om, hvordan AI påvirker de sundhedsprofessionelles ansvar og faglige dømmekraft.
- Etik handler også om faglig dømmekraft, og det kræver træning. Der er f.eks. nogle standarder for, hvordan sundhedsfaglige skal vedligeholde deres kompetencer. Som radiolog skal man bl.a. kigge på ca. 5.000 mammografiscreeninger om året. Så ens faglige dømmekraft afhænger af, at det er noget man gør konkret. Derfor er det vigtigt at sikre, at AI ikke overtager arbejdet på en måde, der fører til aflæring af kompetencer og svækkelse af den faglige dømmekraft, siger Anne Gerdes og fortæller, at en anden etisk udfordring er ”automatiseringsbias”, hvor man tilsidesætter sin egen dømmekraft og følger systemer blindt, og det kan for os alle sammen, hvis vi har travlt. Også dygtige læger og erfarne radiologer.
Det er vigtigt at sikre, at AI ikke overtager arbejdet på en måde, der fører til aflæring af kompetencer og svækkelse af den faglige dømmekraft.
Etik skal tænkes ind fra starten
Projektets tredje del går ud på at fremme udvikling af AI-systemer, hvor etik er indtænkt fra start.
- Det handler om at undgå, at lave AI-systemer, der f.eks. er biased. Det har været tilfældet med AI til hudkræftdetektering, der var trænet på datasæt med lyse hudtyper, og derfor ikke opdagede kræft hos mørke hudtyper. Det kræver tværfagligt samarbejde mellem læger, systemudviklere og andre aktører, hvis man skal lykkes med at udvikle AI-løsninger, der er fagligt robuste og etisk forsvarlige, siger Anne Gerdes, der ser mange fordele ved brugen af AI i sundhedsvæsenet, men maner også til besindighed.
- Der er en tendens til, at mange tror, at AI kan løse udfordringerne i sundhedsvæsenet på magisk vis. Men AI er ikke bare ”plug and play”. Der er mange ting, der bliver sat i drift, fordi man tror, det kan spare penge og tid, men når det så rammer virkeligheden, er der nogle arbejdsgange, der gør, at det ikke helt giver mening. Og her kommer etikken også ind i billedet. F.eks. ser man, at nogle AI’er overdiagnosticerer, og det lægger jo et pres på sundhedspersonale og patienter. Så at indføre AI er ofte mere komplekst, end man tror.
