Professor om offentlige eksperimenter med kunstig intelligens: ”Skudt helt ved siden af”

Han kalder det et favoritemne - og en yndlingsfrustration.

Professor ved Københavns Universitet Thomas Hildebrandt har igennem en årrække stået i spidsen for forskning i fleksible og pålidelige softwareteknologier, der gør arbejdsgange og forretningsprocesser lettere.

I forskningsprojektet EcoKnow handlede det om at udvikle intelligente digitale løsninger, der skulle effektivisere sagsbehandlingen i kommuner og jobcentre.

Så da kommuner og regioner i 2020 fik 200 millioner kroner til at eksperimentere med kunstig intelligens i den offentlige opgavevaretagelse i form af såkaldte 'signaturprojekter', var det en fagligt nysgerrig Thomas Hildebrandt, der fulgte med fra sidelinjen.

Han er i princippet også en ekspert med en personlig interesse i sagen, eftersom han ejer omkring 1 procent i virksomheden DCR Solutions, der baseret på Thomas Hildebrandts egen forskning bistår kommuner med at digitalisere arbejdsprocesser.

Efterhånden blev det så også en frustration, for ret beset har kommunerne ifølge Thomas Hildebrandt et langt stykke hen ad vejen gjort lige præcis det modsatte af det, han forsøger med sin egen forskning.

”Dybest set ser det ud som om, at kommunerne har fået flere hundrede millioner kroner udelukkende for at finde ud af, hvor svært der er at få værdi ud af AI og overholde loven eller lave noget, som ens medarbejdere faktisk har lyst til at bruge,” siger Thomas Hildebrandt.

AI-projekter var ulovlige

Det gælder for eksempel fire nu skrottede AI-signaturprojekter på beskæftigelsesområdet. Groft sagt har konceptet i projekterne været at bruge kunstig intelligens til at regne ud, hvordan man bedst håndterer ledige.

Som Frederiksberg Kommune, der fik 4,7 millioner kroner til at udvikle kunstig intelligens, der skulle ”understøtte sagsbehandleren i at vurdere”, om ledige borgere skulle sanktioneres, hvis de udeblev fra en jobsamtale eller et aktiveringstilbud.

Forskningen i EcoFlow-projektet har samtidig vist, at almindelige sagsbehandler er bedre til at forklare afgørelser end AI-systemer. For ligesom med ChatGPT er algoritmernes kæde af beregninger og de data, beregningerne baseret på, uigennemsigtige.

De fire signaturprojekter på beskæftigelsesområdet blev som nævnt kasseret, da det kom frem, at de var ulovlige. Og Thomas Hildebrandt finder det bemærkelsesværdigt, at Digitaliseringsstyrelsen i en evalueringsrapport blandt de resterende projekter fremhæver Norddjurs Kommunes udvikling af en algoritme til ”Intelligent fordeling og journalisering af mail” som et af de to med ”mærkbare gevinster”.

”Hvis man skal være lidt grov, handler det om brevsortering, der allerede længe har eksisteret i kommercielle programmer. Men man har selvfølgelig fået et open source-projekt. Medmindre det handler om, at man bare ikke har set på, hvad der i forvejen fandtes”, siger han.

Det hele skal vendes på hovedet

Ifølge Thomas Hildebrandt er signaturprojekterne udtryk for en ”letvægterbehandling” af kunstig intelligens, hvor man er gået efter ”højtflyvende” problemstillinger, så som at vurdere om børn mistrives, som det var målet for et andet skrottet projekt i Aarhus Kommune.

”I stedet for at bruge AI til spådomme, så skal vi måske snarere kigge på, om teknologi kan hjælpe os til at forstå, hvorfor vi laver så mange fejl i sagsbehandlingen,” siger han.

Godt nok kan det kræve selvindsigt for en kommune at indrømme, at der begås fejl, da nogle fejl ender med at koste penge.

”Men vi er omvendt ved at nå til et punkt,” siger Thomas Hildebrandt, ”hvor kommunerne ikke kan leve med flere fejl og mere dårlig service.”

Det er samtidig uproblematisk at bruge AI til at forstå fortidens fejl frem for at bruge AI til at tage stilling til børns trivsel og lediges fremtidige jobmuligheder, påpeger han.

Datakvalitet er den største udfordring

I første omgang skal der dog være styr på datakvaliteten, for det er ikke tilfældet i dag, hvilket også evalueringen af signaturprojekterne viser.

Mangelfuld datakvalitet var den mest udbredte barriere for projekterne og i flere tilfælde årsagen til, at de blev skrinlagt.

Generelt håndteres meget sagsbehandling i kommunerne i elektroniske skabeloner, der for eksempel kan sendes ud til borgerne. Men faktisk er meget af sagsbehandlingen ”håndholdt”, påpeger Thomas Hildebrandt, og foregår inde i hovedet på sagsbehandleren. Det er med andre ord ikke dokumenteret i de tilgængelige data.

”Men det kan man gøre noget ved. Min egen forskning viser, at man kan lægge lovgivningsstøtte ind i sagsbehandlingen, så man får dokumenteret beslutningsgrundlaget,” siger Thomas Hildebrandt.

Mere dokumentation er ikke det, kommunerne drømmer om, men det er muligt at indrette systemerne uden at belaste medarbejderne, lyder det fra Thomas Hildebrandt. Det kan ske ved at it-systemet selv foretager registreringen og lægger et digitalt spor, der senere kan analyseres, mens sagsbehandleren koncentrerer sig om sagsbehandlingen.

ChatGPT er ikke løsningen

Regeringen, kommuner og regioner blev i efteråret enige om at afsætte en pulje på yderligere 100 mio. kr. til digitalisering og udbredelse af ny teknologi mellem 2023-2025, herunder "automatisering, kunstig intelligens og robotteknologi". Men når det gælder ChatGPT og lignende teknologier, råder Thomas Hildebrandt parterne til at tænke sig godt om.

intelligens og robotteknologi". Men når det gælder ChatGPT og lignende teknologier, råder Thomas Hildebrandt parterne til at tænke sig godt om.

"Set fra min stol er det en teknologi, man i godt humør kan bruge til at arbejde lidt hurtigere, hvis man skal skrive en tekst eller lave noget kode, der løser et trivielt problem. Især hvis man i forvejen er god til sit fag," siger han.

En avanceret auto-complete

Når for eksempel store advokathuse som Bech-Bruun fortæller, at de allerede bruger kunstig intelligens, skal det tages med et gran salt.

"ChatGPT kan bruges til at lave et brevudkast, eller hvis du får en sag ind ad døren, kan du bruge den som en søgemaskine til research. Men egentlig laver den blot meget avanceret auto-complete, og det kan du ikke bruge i jura. Den forstår ikke regler, afgørelser og begrundelser, men alene statistiske sammenhænge," forklarer Thomas Hildebrandt.

Forudsigelser fra konsulenthuse som McKinsey, der vurderer, at op imod 60-70 procent af al nuværende vidensarbejde i verden i en nær fremtid kan udføres af kunstig intelligens, betegner han som lodret "pinlig".

"McKinsey vil gerne tjene penge ved at generere investeringer i området. For tyve år siden påstod de, at halvdelen af alle handlinger i det offentlige kunne digitaliseres. Og så skal man tænke på, at ChatGPT lige nu ikke tjener penge, så de prøver i stedet for at gøre folk afhængige af deres produkt", siger han og gentager afslutningsvist:

"Igen: Med kunstig intelligens som ChatGPT får man skruet op for hastigheden for indholdsgenererende opgaver, når du har en faglighed, der kan evaluere det. Men det duer ikke, hvis du mangler kundskaberne til at se, hvor den laver fejl."