Eksperter rejser tvivl om regeringens planer for kunstig intelligens

10.000 årsværk på 10 år.

Så mange stillinger vil regeringen ’frigøre’ med sin såkaldte 10-årsplan for ny teknologi og anvendelse af blandt andet kunstig intelligens i den offentlige sektor.

Planen blev annonceret for halvandet år siden, men er kun udfoldet i få linjer i de seneste to økonomiaftaler mellem kommuner og regioner. Selv i regeringens seneste digitaliseringsstrategi fra november 2023 ofres planen blot tre linjer og omtales som en ”igangværende indsats.”

Og en kortlægning fra Datatilsynet af nuværende offentlige digitaliseringsprojekter, som Akademikerbladet har fået aktindsigt i, får nu eksperter til at rejse alvorlig tvivl om holdbarheden af regeringens målsætninger.

Ifølge tre professorer er lang række løsninger, hvor kunstig intelligens skal bistå sagsbehandlingen i stat og kommuner, udtryk for ”spredt fægtning” med tvivlsomme udfald.

”Det minder om græsrodsinitiativer, hvor der opstår forskellige ideer rundt omkring uden nogen koordinering”, siger Jan Damsgaard, professor ved CBS og udpeget som digital vismand af Akademiet for De Tekniske Uddannelser om kortlægningen.

Kunstig intelligens kan ellers revolutionere sagsbehandlingen i den offentlige forvaltning, vurderer han.

”Men når man sammenholder de aktuelle projekter med regeringens digitaliseringsstrategi, så står det klart, at vi ikke umiddelbart står overfor en stor implementering af AI i den offentlige forvaltning. Det kræver, at der bliver sat en tydelig retning, og det er ikke tilfældet,” lyder det fra Jan Damsgaard.

Ifølge Jan Danmgaard er regeringens digitaliseringsstrategi ”bedre end ingenting”. Men der er mest tale om en ”beskrivelse af nogle konkrete og isolererede tiltag. Der mangler en overordnede strategi og faktiske planer for, hvordan man vil udbrede kunstig intelligens i den offentlige sektor”, forklarer han.

Voicebots og talegenkendelse

Akademikerbladet har bedt Jan Damgaard og to andre eksperter – software-professor Thomas Hildebrandt (KU) og professor i offentlig forvaltning og digitalisering Jeppe Agger Nielsen (AAU) – om at gøre status på udrulningen af AI i den offentlige sektor på baggrund af Datatilsynets kortlægning.

Datatilsynets kortlægning er baseret på indberetninger fra samtlige danske myndigheder på nær de fem regioner, og Akademikerbladet har søgt aktindsigt i de 24 løsninger, der omhandler brug af Kunstig Intelligens i forbindelsen med sagsbehandling.

Kortlægningen viser, at kommunerne eksperimenterer med projekter som:

• talegengivelse i tandplejen
• en ”voicebot,” der skal hjælpe borgere til at finde information
• digitalisering af håndskrevne helbredsblanketter
• automatisk tjek af medarbejderes børne‐ og straffeattester
• automatisk klassificering af personalesager.

I staten omfatter løsningerne for eksempel:

• Journalnotater på baggrund af transskribering af samtaler med borgere
• Anonymisering af afgørelser
• GPDR-screening
• Kartel-screening
• Juridisk hjælp til fremsøgning af tidligere afgørelser.

Eksperternes dom: Ingen tydelig retning

Datatilsynets kortlægning giver indtryk af, at arbejdet med løsningerne er ”spredt fægtning”, mener professor Thomas Hildebrandt.

”Det, der foregår, virker lidt tilfældigt - i hvert fald i kommunerne. Det ser ud til, at nogen har fået en ide, eller man har en virksomhed, der forsøger at sælge en løsning ind. Men det giver risiko for, at man får en leverandørdrevet prototype af en umoden teknologi, eller måske genopdager man eksisterende værktøjer eller ting, man allerede kender fra forskningen,” siger Thomas Hildebrandt.

”Det er ikke den mest effektive eller hurtigste måde at blive klogere på,” tilføjer han.

Også Jan Damsgaard finder, at AI-løsningerne bærer præg af, at myndighederne er usikre på kunstig intelligens potentiale.  

”Jeg synes, kortlægningen viser, at man ikke er ambitiøs nok. For eksempel er forsøg med speech-to-text i en kommunes tandpleje langt fra det, der ændrer verden. Men fordi vi ikke har nogle retningslinjer, går man nok rundt ude i kommunerne og prøver at hitte på, hvor og hvordan man skal få penge til et projekt”, siger Jan Damgaard.

AAU-professor Jeppe Agger Nielsen er mere diplomatisk i sin karakteristik af løsningerne. Sammen med to forskerkolleger fra AAU fik han i efteråret 2023 24 millioner kroner til at forske i, hvordan samarbejdet i større AI-projekter foregår og kan forbedres.

”Opgørelsen viser, at den offentlige sektor her og nu har gang i rigtig mange initiativer, og der er stor velvillighed til at eksperimentere med AI og machine learning, chatbots og så videre. Men det ser også ud til, at meget er pilotprojekter og forsøg i mindre skala, hvor effekterne og gevinsterne for forvaltning og borgere er ukendte,” siger Jeppe Agger Nielsen.

Det er sådan set ikke overraskende, mener han.  

”På et tidspunkt skal man selvfølgelig gerne høste nogle gevinster, men jeg tror, at det tager længere tid, end vi nogle gange forestiller os. I første omgang må det vel dreje sig om, at man fortsætter med de bedste forsøg, mens andre, der ikke fungerer hensigtsmæssigt, bliver stoppet, i hvert fald for en stund.”

Burde politikerne sætte mere tydelige rammer for strategi og anvendelse? For eksempel er regeringens 10-årsplan blevet kritiseret for at være ukonkret.

”Det er et godt spørgsmål, som jeg har ikke noget forskningsmæssigt belæg for at svare på. Personligt synes jeg, at det virker fornuftigt, at man ikke sætter en stor forkromet strategi i søen for nuværende, for der er tilsyneladende ikke mange, der ved, hvad det helt præcist er, vi skal satse på,” lyder vurderingen fra Jeppe Agger Nielsen.

Vi skal ikke lade os forblænde

Men Jan Damgaard kommer gerne med et bud, der handler om rettigheder. Eksempelvis mener han, at borgere senest i 2028 skal have adgang til AI-løsninger, der kan vurdere blandt andet sygejournaler eller byggesager. Tilsvarende skal sagsbehandlere sikres muligheden for at bruge AI som beslutningsstøtte. Og står det til Jan Damsgaard, skal implementeringen have en deadline.

”Men igen, det kræver at der politisk sættes en klar og tydelig retning, frem for at have de her tilfældige små-projekter rundt omkring,” siger han.

Hvor Jan Damsgaard ser kunstig intelligens som en oplagt støtte til de stadigt mere komplekse opgaver, som medarbejderne i den offentlige forvaltning står med, så maner Thomas Hildebrandt til besindighed.

"Modne" typer af AI kan ifølge ham godt forbedre arbejdsgange i såvel den offentlige som den private sektor, fx ved at lokalisere flaskehalse eller ved at lave mere fleksible selvbetjeningsløsninger.  

”Med modne mener jeg velafprøvede teknologier, hvor vi kender de ansvarlige anvendelser og kan kontrollere, hvad modellerne er trænet på, og validere om svaret kan bruges,” forklarer han.

Hans frygt er imidlertid, at det ikke bliver tilfældet, hvilket han tidligere har givet udtryk for i Digitalt Arbejdsliv.   

”Nu skal vi effektivisere 10.000 årsværk og det sidder man så nok i Økonomistyrelsen og laver en strategi for. Men vi så med signaturprojekterne, hvor nemt det kan gå galt, og jeg kan godt være bekymret for, at man i lyset af hele hypen med sprogmodeller og ChatGPT tror, man har en mirakelløsning,” siger han.

IT-skandalerne i SKAT tjener til skræk og advarsel, påpeger Thomas Hildebrandt. Trods 10 års forgæves arbejde på at få det skrottede  gældsinddrivelsessystem EFI til at virke, befinder SKAT sig nu en lignende situation med det nye ejendomsvurderingssystem og den hypede IT-infrastruktur Microservice. 

"Microservice var nyt og hot, og det, som leverandørerne gerne ville arbejde med, da man gik i gang i 2016. Men det har så efterfølgende vist sig, at det er et system, som er meget svært at teste og få til at fungere korrekt. Samtidig har man brugt meget avancerede datamodeller til at beregne ejendomsværdierne, som ingen kan få indsigt i”

Thomas Hildebrandt sammenligner det med, at man kører med biler på hullede og ineffektive veje, og så vælger at satse på flyvende biler, frem for at reparere vejene, selvom ingen ved, hvordan man bruger flyvende biler sikkert, eller om de nogensinde kommer i luften.

Jan Damsgaard bruger en anden bil-metafor til at argumentere for, at vi ikke skal frygte kunstig intelligens.

Da man opfandt bilen, satte man førersædet helt forrest, ligesom på en hestevogn. Det førte til for mange skader, hvorefter placerede man føreren længere tilbage, bag ved motoren. Senere opfandt man sikkerhedsselen og senere igen ABS-bremser.  

”Kunstig intelligens er ikke ufejlbarlig. Det er noget, vi skal arbejde med for at få erfaring og identificere uhensigtsmæssighederne. Hvis vi på forhånd beslutter, at vi ikke må lave fejl, så kommer vi ingen vegne. Og så bliver det bare Microsoft og andre tech-giganter, der kommer til at definere, hvad vi gør.”

Det har ikke være muligt at interviewe digitaliseringsminister Marie Bjerre (V) om kritikken.