Teknopsykolog: "Vi er mere bange for ikke at gøre vores job ordentligt, end for at AI erstatter os"

I et mørkt rum sidder en læge foran en lysende computerskærm. Hun skal vurdere om scanningsbilledet viser brystkræft eller ej. Samtidig vurderer en AI – et machine leaningsprogram, der er blevet præsenteret for millioner af scanningsbilleder – det samme billede. Hvis de to er enige, er konklusionen klar. Men hvad når de ikke er?

I 2021 gik man i et forsøg fra at have to læger til at lave billeddiagnostik til én læge og en AI. Teknopsykolog Astrid Galsgaard fulgte forsøget på sidelinjen, og dele af resultaterne kan bredes ud til resten af arbejdsmarked, mener hun, fordi de siger noget om, hvad der sker med os som fagpersoner, når AI bliver en del af vores arbejde.

Når det faglige mandat trues

- Når vi begynder at bruge AI i vores arbejde, hvad enten det er i form af sparring med co-pilot, et AI-system der understøtter sagsbehandling i en kommune eller en AI, der hjælper læger med at vurdere en scanning, så er der en række psykologiske mekanismer, der går i gang i os, og der opstår en række etiske spørgsmål, siger Astrid Galsgaard.

- AI kan forandre eller forstyrre vores agens – som er vores oplevelse af at kunne træffe professionelle beslutninger og foretage vurderinger, hvor vi selv overskuer konsekvenserne og kan blive stillet til ansvar for beslutningen. AI kan mudre den agens, fordi AI kan udfordre følelsen af, at vi gør vores job etisk forsvarligt og dermed følelsen af at gøre vores job ordentligt. Det kan f.eks. være offentligt ansatte, der skal bruge et bestemt system til at træffe beslutninger ud fra, fordi det er mere effektivt, men hvor de ikke er enige, eller svarene ikke tager nok højde for individuelle situationer, siger Astrid Galsgaard.

Et af de etiske spørgsmål, som opstår i kølvandet på det, er, om vi som fagpersoner kan blive stillet til ansvar for beslutninger, når de helt eller delvist bygger på en algoritme, vi ikke nødvendigvis forstår? F.eks. i tilfældet med lægen, der sammen med en AI vurderer scanninger for kræft. Hvis de overser en syg patient, så har lægen i udgangspunktet altid ansvaret, men det udfordres nu af, at lægen ikke nødvendigvis er inde over analyseprocessen som tidligere.

Vi er etiske væsner

Undersøgelser viser, at vi er mere bange for, at AI påvirker vores faglighed, og at vi dermed ikke gør vores job ordentligt, end at vi er bange for, at AI erstatter os.

- Fordi vi grundlæggende er etiske væsener og ønsker at gøre vores bedste og gøre os umage, siger Astrid Galsgaard.

En undersøgelse blandt DM’s medlemmer viser, at 43 % er bekymrede for, at deres brug af AI kan medføre, at de ikke får trænet deres faglighed tilstrækkeligt. Og 35 % er bekymrede for, at AI kan underminere deres faglighed og reducere efterspørgslen på deres kompetencer. Mens kun 10 % er reelt bekymrede for, om AI overtager deres job.

Positivt at se på sine rutiner 

Astrid Galsgaard peger også på, at der kan ske positive ting for fagligheden, når vi bringer AI ind i vores arbejde.

- Man bliver som fagperson tvunget til at se på ens tavse viden og gøre sig klart, hvad der er kernen i ens fag. Hvad er det essentielle i det, man gør? AI er en anledning til at opdatere blikket på ens faglighed og se på de usynlige procedurer, som vi måske ikke er klar over, at vi gør, siger Astrid Galsgaard, der er fortrøstningsfuld ift. at vi kan implementere brug af AI, der giver mere værdi for os, end vi mister. Men det kræver, at vi overvejer, hvad vi vil bruge AI til.  

- Udover at vi som mennesker har en naturlig etisk tilgang, har vi også en iboende tillid i os. Vi går ud fra andre mennesker taler sandt, og vi har en stærk tillid i samfundet. Det kan AI pille ved, hvis vi ikke er opmærksomme. Vi kan f.eks. risikere, at borgere mister tillid til myndighederne, hvis der er den mindste tvivl om, hvordan man som autoritet eller myndighed er kommet frem til en afgørelse, siger Astrid Galsgaard.  

Derfor skal både ledelse og medarbejdere stille spørgsmålet: ”Hvorfor skal vi bruge AI til den her opgave?” før de beslutter at bruge AI. De samtaler mangler mange steder i dag, mener hun.

- For AI kan alt, så det er os, der skal beslutte, om vi vil det. Det er også ledelsens ansvar at tage dialogen med medarbejderne om, hvad vi vil bevare, hvad der giver arbejdsglæde, og hvad det kan være brugbart at få AI til? Vi skal træffe velovervejet valg. F.eks. kan det for en socialrådgiver være en god idé at have en AI til at tage journalnotater, fordi det frigiver tid til samtaler med borgerne, mens socialrådgiveren sandsynligvis ikke får arbejdsglæde af at skulle administrere en AI, der sættes til at tage selve samtalen. AI skal bruges, så vi som fagpersoner kan gøre mere af vores faglige kerneopgave. AI skal ikke overtage den. I starten af AI-udviklingen talte man om, at AI skulle klare de ”dull, dangerous and dirty jobs”. Vi skal ikke give AI de opgaver, der udvikler os, og som vi synes er sjove. Det er dumt, siger Astrid Galsgaard.

Hvordan opfatter du din faglighed?

Astrid Galsgaard har i sine undersøgelser identificeret, at vores egen opfattelse af vores faglighed og faglige rolle har indflydelse på, hvordan vi opfatter de resultater AI giver os og vores grad af frustration over det.

- Forskellen ligger i om, man opfatter sin faglighed som en iboende ekspertise, man besidder, eller ens faglighed er noget man ”gør”. Hvis man har tilgangen: ”Min faglighed beror alene på mig som ekspert”, så bliver det svært, hvis ikke AI’en bekræfter dig i dine antagelser og vurderinger. Mens hvis man ser AI som et redskab, man kan bruge i udøvelsen af sin faglighed, så er man mere villig til at se den som medspiller, siger Astrid Galsgaard.