Kan kunstig intelligens erstatte politikere?

Husk det her tal: 53,9.

For det er ikke bare et decimaltal. Det er meget større. Det er et historisk nybrud i dansk politik.

Tænketankdirektør Sigge Winther Nielsen beskrev i sin bog ‘Entreprenørstaten’ et hektisk og overfladisk arbejdende politisk system, der er ude af stand til at tackle de store samfundsudfordrende problemer som klimakrise eller ulighed.

Han mener, at der findes samfundsproblemer, som er så komplekse eller vilde, at der ikke findes en fælles ramme til at forstå dem, og hvor både årsager og løsninger er uklare.

Og efter først at have stillet diagnosen kommer Sigge Winther Nielsen nu med kuren. Det er her, tallet 53,9 kommer ind i billedet.
Tallet er udregnet af algoritmen ‘Model for Vilde Problemer’, som Institut for vilde problemer (INVI) har udviklet. Modellen fungerer således:

Man tager enorme mængder fritekstsvar med hundredvis af praktikeres beskrivelser af et givent problem og dets løsninger og kører det hele igennem OpenAI’s GPT-4 text-embedding-3-large model. Og vupti, så får man en samlet indeksværdi for problemets vildhed. 

Modellen er blevet testet på problemet ‘mistrivsel blandt børn og unge’ med 334 praktikere og policy-entreprenører. Her blev resultatet 53,9. 

Det er simpelthen modellens samlede tal for, hvor stort et problem mistrivsel blandt børn og unge er på en skala fra 1 til 100. Tallet er et geometrisk gennemsnit af fire andre indekstal, som hver repræsenterer henholdsvis årsager, løsninger, skala og konflikt.

I en rapport om testresultatet forklarer INVI, at modellen kan blive et værdifuldt værktøj for aktører i kraft af data, visualiseringer og et dashboard.

Det er “et fælles kompas, som aktørerne kan bruge til at styre gennem vildnisset af overlappende problemer, når de udvikler løsninger, udpeger samarbejdspartnere og følger udviklingen i implementeringen”, hedder det i rapporten ‘Model for Vilde Problemer’.

Den dur ikke

Ifølge Sigge Winther Nielsen er det aldrig før set i det danske folkestyres historie, at nogen har sat et indekseret mål på, hvor vildt et samfundsproblem er.

Men modellen er også skelsættende, fordi den skal forbedre politiske beslutninger ved hjælp af GPT-4’s enorme analysekraft.

Kunstig intelligens er på kort tid blevet en global magtfaktor, og nu er den så på vej til at blive integreret i dansk politik som en vejviser og ledetråd. Men spørgsmålet er, om INVI’s kompas snarere leder aktørerne mod et vildnis af misforståelser.

Anders Søgaard, der er professor og forsker i natural language processing og kunstig intelligens ved Datalogisk Institut ved Københavns Universitet, har gennemgået INVI’s dokumentation for Akademikerbladet.

Han kalder INVI’s brug af kunstig intelligens forholdsvis uskyldig og eksplorativ. “Til gengæld giver den ikke rigtig mening,” siger han, “fordi vektorafstande ikke måler det, de tror, de måler.”

En vektor er en matematisk repræsentation af tekst, og en vektorafstand måler, hvor forskellige eller ensartede to tekster er. I INVI’s model er konsekvensen, at jo større afstanden er mellem vektorerne, des vildere er problemet, for jo større afstand er der mellem praktikernes beskrivelser af problemet.

Men, påpeger Anders Søgaard, vektorafstande udtrykker mere end semantiske forskelle, som er det, INVI’s model lægger vægt på.

“Udsagnsordet går og navneordet gåtur har vidt forskellige vektorer, selvom de betyder næsten det samme. Ordene afkræftelse og omstødelse er synonyme, men har forskellige vektorer, fordi de bruges af forskellige mennesker på forskellige tidspunkter,” forklarer han. 

Forbigås i tavshed – næsten

Selvom Anders Søgaards kritik rejser tvivl om modellens brugbarhed, omtales det metodiske problem ikke nogen steder i INVI-rapporten – heller ikke i et kapitel, der kaldes ‘Test og validering’, hvor datagrundlag, metode og resultater dokumenteres.

Sigge Winther Nielsen siger dog til Akademikerbladet, at “det er noget, vi har været meget opmærksomme på hele vejen igennem”, og at det bliver forsøgt håndteret ved blandt andet at begrænse længden på praktikernes svar og ensarte længden af ord. Han henviser her til rapportens hovedforfatter, statskundskabsprofessor Jacob Gerner Hariri.

“Jacob Gerner Hariri har sagt i forskellige sammenhænge, at vi har adresseret det blandt andet ved at foretage test, der skal fjerne støjen. Når man gennemfører en klassisk meningsmåling, så er der også støj i den,” siger han.

Professor Jacob Gerner Hariri bekræfter, at han har talt om målefejl, når han har præsenteret modellen i forskellige sammenhænge.

“I samfundsvidenskab er der altid målefejl. I vores metodik er der også tilfældige fejl – eller i hvert fald noget mere end ren semantik, der påvirker resultatet. Det er en prototype. Vi har forsøgt at adressere det, og det gør INVI også fremadrettet,” siger han.

Da Jacob Gerner Hariri på en stort anlagt høring på Christiansborg præsenterede metoden og vektorafstandene for blandt andre finansminister Nicolai Wammen, kom han dog ikke ind på målefejlene.

Computer Lars og Leder Lars

Sigge Winther Nielsen og Jacob Gerner Hariri fremhæver INVI’s indekstal for et politisk problems vildhed som historisk – og ikke mindst, at det er baseret på åbne fritekstsvar fra en stor mængde praktikere.

Den kunstige intelligens giver derfor politiske beslutningstagere mulighed for at følge reformer tæt – og justere dem – langt hurtigere og i en mere direkte vekselvirkning med de praktiske udøvere, end det tidligere er set i dansk politik, lyder et af INVI’s argumenter.

Og tænketanken står ikke alene: En tættere og mere direkte relation mellem politiske beslutninger og de mennesker, der skal leve med dem, bliver i stigende grad brugt som argument for at integrere kunstig intelligens i politik.

Ideen om, at AI kan forbedre den demokratiske proces, var også baggrunden for, at ph.d.-studerende Asker Bryld Staunæs i 2022 under kunstnernavnet Computer Lars stiftede Det Syntetiske Parti. 

Partiets politik er skabt ved at syntetisere en stor mængde ikkeopstillingsberettigede partiers politik med kunstig intelligens, og dets leder har siden da været chatbotten Leder Lars.

Formålet er at skaffe repræsentation for de 20 procent af befolkningen, der normalt ikke stemmer ved et valg. Men ifølge Asker Bryld Staunæs ville han i dag gå mere radikalt til værks.

“Det vil være en god idé at erstatte politikere med avatarer for at bevæge sig mod et mere direkte demokrati. Hvis jeg fik mulighed for at stille op for Det Syntetiske Parti igen, ville jeg nok gøre det ligesom Pedro Markun, der stillede op til kommunalvalget i São Paulo i 2024 sammen med sprogmodellen Lex,” siger Asker Bryld Staunæs.

Pedro Markuns mål var at gøre Lex til en lovgivende kunstig intelligens, der interagerer direkte med borgerne. Det skulle forbedre den offentlige politik og skabe større gennemsigtighed i den offentlige forvaltning. 

Kunstig intelligens bliver mainstreampolitik

Lignende eksempler er set i blandt andet Japan og Polen, og ifølge Anders Søgaard er det et spørgsmål om tid, før kunstig intelligens bliver en del af mainstreampolitikken i Danmark.

“Vi har længe set økonomer simulere hele befolkninger i økonomiske modeller, der dog højst opererer med måske 100 parametre. Og derfor kigger man eksempelvis ikke på, hvilken betydning det har for den samlede økonomi, at folk sidder hjemme foran tv-skærmen og ser Netflix,” siger han.

Men det kan snart ændre sig.

“Vi er begyndt at bruge sprogmodellerne til at simulere præferencerne hos den enkelte. Så en CEO kan i dag træne en sprogmodel til at svare på mails, der står på mål for CEO’ens egne holdninger. Der skal ikke så meget til – og det er også, hvad jeg hører i krogene – før man finder på at slå de to ting sammen.”

Altså:
Hvor Institut for vilde problemer trækker på indsigter fra nogle hundrede praktikere, forventer Anders Søgaard, at generativ kunstig intelligens fremover vil blive brugt til at simulere hele befolkninger med digitale tvillinger eller avatarer, der repræsenterer hver borgers præferencer.

“Jeg tror ikke, der er tvivl om, at man kommer til at afsøge det,” lyder det fra Anders Søgaard.

En af fortalerne for digitale tvillinger eller avatarer er den chilenske fysiker og professor ved Toulouse School of Economics César Hidalgo. Hans idé går et skridt videre:

Hver borger skal udstyres med en individualiseret AI-bot, der foruden af være trænet på borgerens præferencer også forhandler med andre borger-botter om ny lovgivning. Dermed undgår man problemer som korruption, ineffektivitet, dumhed og eksklusion, som demokratier ellers normalt må trækkes med.

En moralsk pligt

Men forslaget er ikke uproblematisk, mener Ted Lechterman, der er politisk filosof og UNESCO Chair i AI-etik og governance ved IE University i Spanien.

Han mener faktisk, at udsigten til, at kunstig intelligens kan træffe bedre beslutninger end mennesker, ser lovende ud – hvis altså udfordringer såsom bias og manglende transparens kan undgås.

“I så fald kan man argumentere for, at det ville være umoralsk at undlade at bruge kunstig intelligens,” siger Ted Lechterman.

“Men vi må også spørge, hvorfor vi synes, demokratiet er værdifuldt. Måske kan et ikkemenneske træffe bedre beslutninger og løse vores vilde problemer, men er der alligevel noget, der taler for det menneskestyrede demokrati,” spørger Ted Lechterman.

Et svar kunne være, at demokratiet forlener os med en form for autonomi og en følelse og tro på at være hjemme i en verden, vi selv er med til at skabe, mener han.

Er det ikke gennem den demokratiske samtale, vi udvikler og modner politiske holdninger? spørger han. Og er der plads til den i César Hidalgos bot-demokrati?

“I høj grad. Dør samtalen i et demokrati, hvor folk stemmer hvert fjerde år? Nej, faktisk deltager folk mere, når de skal stemme. Tilsvarende er ideen om at give folk mulighed for at bruge kunstig intelligens til at tænke, kommunikere og deltage i beslutninger ikke en hindring for samtalen. Den har til formål at forbedre den,” siger César Hidalgo til Akademikerbladet.

Politikerne vil gøre modstand

Nye teknologier har gennem hele historien hjulpet os med at udvikle og udveksle ideer, påpeger César Hidalgo.

Med generativ kunstig intelligens er situationen en anden, kunne man indvende. Her ejer OpenAI den teknologi, som INVI’s ‘Model for Vilde Problemer’ benytter.  

Af samme årsag ønsker César Hidalgo, at bot-demokratiet virker gennem åbne protokoller ligesom mails, som alle kan udveksle, uden brug af sociale platforme som Facebook.

Spørger man 80-årige Jørgen Grønnegård Christensen, der i årtier har uddannet politikere og embedsmænd på Aarhus Universitet, vil statsapparatet næppe bare lige overlade sine beslutninger til kunstig intelligens.  

“Tag sundhedsreformen, der blev aftalt i november. Den er omfattende, vidtspændende og tumler med komplekse problemer. Der er indviklede årsags- og effektkæder, stærke politiske og institutionelle interesser samt adfærdsproblemer hos både sundhedsleverandører og borgere,” siger han.

“Det kan godt være, at jeg er gammel og forstokket, men jeg tvivler på, at nogen aktører vil efterlyse input fra kunstig intelligens til en proces, der er ret så kompliceret i forvejen,” lyder det fra Jørgen Grønnegård Christensen.  

Også Anders Søgaard forventer, at det etablerede system vil sætte sig imod, men at presset fra teknologiske fremskridt i såvel forskningen som tech-industrien vil blive meget stort.

“Vi ser det allerede folde sig ud i USA. Ideen om, at det repræsentative demokrati kan erstattes af et mere direkte demokrati igennem kunstig intelligens per proxy, er en del af den vision, der ligger bag nogle af tech-utopisternes tillid til, at det nok skal gå at fyre en stor bunke offentligt ansatte,” siger han.