Den kunstige videnslabyrint

Producenter af kunstig intelligens (AI) behøver ikke at bevise, om AI er bedre eller værre end menneskelig intelligens. De behøver kun at udvide den labyrint af usikkerhed, de allerede har startet, som forvrænger standarderne for god kommunikation og forskning.

Så længe de kan sikre sig, at forskere, forfattere, studerende, elever eller journalister ikke er sikre på, hvor de er i videnslabyrinten, vil de være i stand til at dominere vidensproduktionen i samfundet.

Jeg opdagede næsten ved et tilfælde, at jeg for nylig befandt mig i en AI-skabt labyrint. Det var en skelsættende oplevelse for mig som forsker, da jeg en dag testede et program, der praler af, at det kan registrere brugen af AI med over 98 procent nøjagtighed.

Som forsker og underviser har jeg ventet på netop det. For et par år siden var den type programmer så unøjagtige, at de ikke kunne bruges til at afdække ulovlig brug af AI blandt studerende.

Men med 98 procent nøjagtighed ville jeg kunne bruge det på opgaver, hvor jeg har mistanke om ulovlig brug af AI, hvis institutionen tillader det.

Jomfruelig fra A til Å

For at teste programmet brugte jeg det på en videnskabelig artikel, jeg selv har skrevet, og som endnu ikke er blevet udgivet. Det er en ret speciel artikel. Den handler om, hvordan jeg oplevede tid, mens jeg padlede 620 km alene i min havkajak fra København til Oslo sidste år.

Artiklen er baseret på den franske filosof Henri Bergsons forståelse af tid og er skrevet som et bidrag til forskning om tid i organisationer. Så det er ret tydeligt, at artiklen ikke ligefrem er "mainstream". Jeg har ikke brugt AI til hverken idéer, strukturering eller til at skrive artiklen, hvilket jeg heller aldrig har gjort med andre tekster. Med andre ord er teksten jomfruelig fra A til Z.

Som en slags "benchmarking" kørte jeg teksten gennem programmet, der pralede af 98 procent nøjagtighed i at spore brugen af AI. Jeg var fuldstændig rolig og afslappet, fordi jeg vidste, at hvert eneste ord (bortset fra et par citater) var skrevet af mig. Programmet arbejder systematisk gennem teksten og viser forskellige kilder eller standarder, som det kontrollerer teksten i forhold til. 

Så kommer resultatet. En betydelig del af teksten er genereret af AI! Jeg får at vide, at resten er skrevet af et menneske. Dette menneske er mig selv. Dette menneske har tilbragt næsten tre uger i en havkajak med unikke oplevelser, som derefter oversættes til en videnskabelig tekst.

For eksempel fortæller jeg, hvordan jeg i vind og bølger møder skibstrafik alene og er nødt til at træffe hurtige beslutninger; hvordan jeg reagerer fysisk på at være ude på vandet, hvor kun 4 mm glasfiber adskiller mig fra omgivelserne. Hvordan jeg håndterer usikkerhed, træthed og mestring.

Intet mindre end kafkask

Men så kommer der – om muligt - noget endnu mere mystisk. Jeg troede, at den "rigtige" test er plagiering. Jeg har ikke udgivet noget fra oplevelsen før, bortset fra en meget kort version i et dansk kajaktidsskrift. Plagieringstesten fortæller mig, at dele af artiklen også er plagiering.

Det burde antyde, at en person, jeg aldrig har hørt om før, ville opleve og skrive meget af det samme. Jeg kan nok garantere, at Henri Bergson ikke roede i en havkajak. Han rejste over Atlanten på luksusskibet France i 1913, men jeg har aldrig hørt, at han skrev noget om den tur.

Det er mere sandsynligt, at han tilbragte tid i loungerne, mens jeg padlede i en 5 meter lang havkajak langs den svenske kyst.

Der er ingen tvivl om, at "analysen" af programmet er mere end skæv. Jeg har senere tjekket den samme tekst mod en anden app, som viser næsten ingen AI og næsten ingen plagiering, hvilket er det korrekte resultat.

Men pointen er ikke så meget, hvordan eller præcis hvordan den type værktøjer fungerer. Det vigtigste er den situation, som et sådant tjek sætter forfatteren i. Det er her, at situationen kan blive intet mindre end kafkask.

Hvad nu hvis nogen (en uvenlig journalist, en redaktør, hvem som helst) kører min tekst gennem programmet og publicerer resultatet? Som forskere og undervisere er vi til enhver tid påmindet om vores etiske ansvar, og det mindste tegn på plagiering kan ødelægge vores omdømme og karriere. Man kan blive uskyldigt dømt af folkedomstolen.

Jeg var chokeret i starten. Så blev jeg angst. Så følte jeg afmagt.

Følelsen er som pludselig at ende (eller være i) i en labyrint, hvor jeg ikke ved, hvor jeg skal hen. Det værste er, at jeg ikke kender konsekvenserne af at tage det næste skridt. Skal jeg slette alle sådanne programmer? Skal jeg lade som om, de ikke findes? Eller skal jeg begynde systematisk at teste programmer på mine tekster?

Men jeg har det ligesom mange af mine forskerkolleger. Jeg arbejder lange og sene timer for at publicere artikler i krævende tidsskrifter, hvor over 90 procent af de indsendte artikler bliver afvist. Jeg har ikke tid eller energi til at håndtere et system, der skaber en situation, hvor man næsten kan ende med selvpålagt intellektuel selvkontrol, hvilket gør det mindre sandsynligt, at man kan producere artikler, der gør en forskel.

En generøs mulighed, en flugtmulighed

Men historien slutter ikke her. Programmet, der stillede en alvorlig fejldiagnose på min tekst, tilbyder mig ”generøst” en mulighed. Eller hellere en flugt.

Hvis jeg tegner et betalt abonnement, kan det ”humanisere” min tekst, så AI-tjekket ikke fejler, hvis jeg for eksempel vil udgive den.

Programmet har dermed sat mig i en labyrint, hvor jeg ikke kender konsekvenserne af mit næste skridt. Men i stedet for at hjælpe mig med at tage det næste skridt, gør det noget, der fanger mig endnu dybere i labyrinten. Det udvider labyrinten ved at tilbyde en tjeneste, der får min tekst til at se ud, som om den er skrevet af et menneske og ikke en maskine. En tekst, der allerede var skrevet af et menneske uden maskinhjælp.

Her kommer et mærkeligt paradoks ind i historien. I min voksende fortvivlelse spurgte jeg en chatbot, hvordan det kunne være, at en jomfruelig artikel kunne blive udsat for en sådan fejldiagnose. Her lærte jeg, at programmerne "kun" er sprogmodeller, og hvis jeg skriver tæt på det ideelle med hensyn til klarhed, argumentationsstruktur og konsistens, kan det forklare resultatet. Det kan være sandt til en vis grad, da jeg har modtaget meget positive kommentarer i den retning fra fagfællebedømmere af teksten.

Tilbage til tilbuddet om at humanisere min tekst. Hvis jeg skulle acceptere dette tilbud med en tekst, der allerede er tæt på idealet, ville det betyde, at teksten for at være "menneskelig", skulle blive ringere, end den var i første omgang.

Det skaber et mærkeligt paradoks for talentfulde studerende og samfundsforskere. Det betyder, at hvis man skriver en klar, logisk og konsistent tekst baseret på en interessant case, mindskes risikoen for at blive fejldiagnosticeret ikke. Den øges. Og alternativet er at publicere en ringere tekst. Touché!

Fejlagtigt anklaget for snyd

Så tilbage til debatterne om, hvorvidt AI er god eller dårlig for forskning og uddannelse. Vi risikerer at tilsløre problemet ved at stille fordele og ulemper op mod hinanden.

Det, min historie antyder, er, at AI-aktører kan skabe forvirrende labyrinter, der sætter forfattere, studerende og forskere i situationer, hvor de føler sig magtesløse.

Eller værre. De kan fejlagtigt blive beskyldt for snyd, hvilket kan have fatale konsekvenser for dem.

Som en internationalt anerkendt, prisvindende forsker og professor nærmer jeg mig slutningen af min karriere. Jeg har været så heldig at kunne handle i god tro i mange år og koncentrere mig om at skabe ny viden for samfundet.

Min seneste oplevelse med AI var et øjeblik af magtesløshed. Jeg ønsker, at andre ambitiøse studerende, forfattere og forskere undgår det. Dette kan gøres ved at skabe systemer, der giver sikkerhed for den enkelte forfatter. Og sikkerhed er en hjørnesten i god forskning.


*Indlægget er tidligere publiceret i Forskningsforum i Norge