Interesserer du dig for it og den digitale omstilling?

Så markér feltet "DM Digi" på Mit DM, så får du alt det DM laver på området - artikler, arrangementer, netværkstilbud m.m. 

ChatGPT stiller store krav til uddannelser og arbejdsmarked

AI-generet foto af fotograf Jakob Boserup

Af Anette Lerche
Del artikel:

Uden forudgående viden er du chanceløs, når ChatGPT opdigter kilder og indhold, siger lektor ved IT-Universitetet Louise Harder Fischer.

Brug af ChatGPT er på de fleste universiteter kategoriseret som snyd. Hvordan opdager man, når en studerende har brugt ChatGPT til en eksamen? Tidligere skete snyd oftest i form af plagiat, som er nemt at afgøre, men nu står universiteterne over for velformulerede og originale eksamenstekster, der er formuleret af ChatGPT og ikke den studerende.


Louise Harder Fischer er lektor ved IT-Universitetet og studieleder for kandidatuddannelsen Digital Innovation & Management. Hun læser opgaverne, når der er mistanke om snyd. I flere tilfælde er der brugt ChatGPT, og hun peger på to typiske ChatGPT-markører, som vækker hendes mistanke.


- ChatGPT opdigter tekst og referer til kilder, hvor det refererede indhold ikke eksisterer. Som undervisere kender vi jo den litteratur, der bliver undervist i. Men i nogle opgaver kan vi støde på indhold, hvor den kilde, der refereres, ikke er afsender.


ChatGPT trækker også troværdige kilder ind i sine besvarelser, men digter, hvad kilden har sagt, og giver også artiklen en opdigtet titel.


- Teksten kan minde så meget om det, en forfatter kunne have skrevet, at forfatteren selv kan blive i tvivl om, hvorvidt han eller hun har skrevet det. Dette har især været gældende for avisartikler. Kort sagt opfinder ChatGPT kilder og refererer kilder for noget, de aldrig har sagt eller skrevet, siger Louise Harder Fischer, der må konstatere, at hun bruger lang tid på at efterprøve sin mistanke om brug af ChatGPT.

Du bør ikke bruge ChatGPT, hvis du er helt blank på et område

Høflig og hjælpsom

Louise Harder Fischer har derfor undersøgt, hvordan ChatGPT agerer, når du fanger den i at begå fejl, og hun oplever den som en meget høflig og hjælpsom samtalepartner.


- Hvis du retter den, vil den straks sige undskyld og skrive, at den har misforstået dig. Det er for mig at se ret kontroversielt, for den har jo rent faktisk præsenteret noget for dig, der ikke var sandt, så når du fanger den i løgnen, så siger den bare undskyld. Den er en supertroværdig samtalepartner, der efterligner, hvordan et menneske ville agere, siger hun og fremhæver de klassiske appelformer etos, patos og logos, hvor hun konstaterer, at ChatGPT må ligge meget højt på etos-skalaen, der handler om troværdighed, tillid, ekspertise og erfaringer. Og det gør den til et risikofyldt redskab at tage i brug, hvis man ikke ved, hvordan man skal håndtere den.


På IT-Universitetet har hun netop haft en episode, hvor bachelorstuderende skulle søge ind på en kandidatuddannelse ved blandt andet at lave et såkaldt »Statement of Purpose«. I erklæringen skal ansøgerne besvare, hvilke problemer de synes, er vigtige inden for digitaliseringsfeltet, som de kan løse via uddannelsen Digital Innovation & Management. I besvarelserne var der mange, der inddrog professionen og udfordringerne og skrev, hvordan de kunne finde løsninger.


- Men der var også nogle, der skrev om emner som data privacy, GDPR og cyberattack, som vi har meget lidt om i uddannelsen. Det undrede mig, og derfor spurgte jeg ChatGPT om hjælp til et statement, og den svarede netop det. Det var ren misinformation ud fra en opfundet uddannelse, der slet ikke matchede vores. Efter lidt research fandt vi ud af, at der var en uddannelse i USA, der mindede lidt om vores, som førte til svarene. Desværre havde de studerende taget ChatGPT’s svar råt for usødet, hvilket betyder, at de egentlig har misforstået, hvad uddannelsen går ud på. Så det har vi så måttet skrive til de optagne studerende; at de skal være opmærksomme på, at vi ikke har de fag og emner, ifald de tager imod tilbuddet om optagelse.


Eksemplet fremhæver Louise Harder Fischer, fordi det viser, at du skal være domæneekspert på det område, du vil bruge ChatGPT til. Du skal vide så meget om området, at du kan opdage, når den skriver noget forkert, og har du den viden, vil du også kunne hjælpe ChatGPT til at rette sine fejl.


- Du bør ikke bruge ChatGPT, hvis du er helt blank på et område, men erfaringen viser desværre, at det er her, at folk bruger ChatGPT allermest. Helt basalt kan man jo starte med at spørge ChatGPT, hvem man selv er, og se, hvordan den rammer forkert, siger hun.

Du kan risikere at blive meget ensom i dit arbejde, hvis din tætteste kollega er ChatGPT

ChatGPT i uddannelsverden

Men selvom Louise Harder Fisher er kritisk over for Chat-GPT, så ser hun også klare fordele.


- ChatGPT er kun snyd, hvis vi på forhånd har besluttet, at de studerende ikke må bruge ChatGPT. På IT-Universitetet er det på kursusniveau defineret, hvornår man må bruge det, og hvornår man ikke må. I fag, hvor man må bruge ChatGPT, har man for eksempel indført, at den studerende i metodeafsnittet skal beskrive, hvordan der er brugt ChatGPT. På den måde udvikler vi en bevidsthed om ChatGPT som en metode, der er lige så vigtig at beskrive som eksempelvis dataindsamlingsprocedurer med mere.


- De studerende skal kende til, hvornår det giver mening at bruge ChatGPT inden for den videnskabelige metode, så de opnår en viden om kildekritik og kan referere til kilden.
Den tilgang betyder også, at brug af ChatGPT kan blive en stor dokumentationsopgave.


- Du skal verificere kilderne, være kritisk over for dem og have en videnskabelig tilgang, hvor du beskriver, hvad du har gjort. Det betyder, at dét at bruge ChatGPT kan blive et stort arbejde. Til gengæld vil du ofte sidde med en formulering, der er bedre end den, du selv kunne skrive, siger Louise Harder Fischer, der peger på, at det er en stor hjælp, at en computer nu kan hjælpe dig med fremmedsprog, tone og lixtal.


- Du skal bare huske, når du bruger ChatGPT, at det er dig, der står til ansvar for teksten, også juridisk, og at du stadig bliver vurderet for din selvstændige tænkning ved eksamensbordet.
Styrke den akademiske tangegang
ChatGPT vil betyde ændringer på universiteterne, hvor man eksempelvis kan skrue op for elementer, der kræver selvstændig tænkning og inddragelse af konkrete cases og problemstillinger.


- I virkeligheden kan det gøre eksamenerne bedre, og vi vil nok få flere mundtlige eksamener og en mere mundtlig kultur. Et andet tiltag, vi overvejer, er, at de studerende skal vurdere hinandens opgaver undervejs i undervisningen, hvor der bruges blandt andet ChatGPT. Det vil give indblik i kvaliteten og træne de studerende i at være kritiske overfor maskingenereret tekst. Refleksionen er forhåbentlig også, at de opnår en indsigt i alle de værktøjer, der er til rådighed, og derfor vil vide mere om, hvordan man anvender dem på en måde, så de øger deres selvstændige bidrag og bliver vurderer på noget, de helt selv har lavet.


For Louise Harder Fischer er det vigtigt at understrege, at der altså ikke skal være et generelt forbud mod Chat-GPT, men at der vil være situationer, hvor det er forbudt.
- Jeg tror, at den nye teknologi kan gøre den akademiske disciplin en tjeneste, fordi vi bliver skarpere på, hvad der egentlig ligger i kildekritik og metode.


- I sidste ende er det et spørgsmål om, hvilket samfund og hvilke arbejdsopgaver vi gerne vil have. Vil vi gerne gøre os selv helt overflødige? For der er selvfølgelig en fare for, at vi mister de dybe kvalifikationer, der opstår, når vi opbygger viden og erfaring gennem lang tid, kommer væk fra skrivebordet og ud i verden og ser vores viden omsat til praksis og hverdagsteorier. Uden den, hvordan skal vi så kunne opdage og rette, når de store sprogmodeller laver fejl og misinformerer?

AI genereret foto lavet af fotograf Jakob Boserup

Rammer og regler

En af årsagerne til, at ChatGPT og lignende AI-systemer vækker så stor bekymring generelt, er, at udviklingen går så hurtigt, at det er svært for organisationer, uddannelser med mere at følge med. Det gælder også for lovgivning og rammer for, hvordan det skal håndteres i uddannelsesverden.


- Mange venter på ministeriets udmelding, og jeg tror, at ministeriet venter på EU. Så min forventning er, at det arbejde, der er i gang i Dansk Standard omkring ansvarlig brug af AI, kommer først. Når ministeriet kommer med en udmelding, følger vi den. Og alle ved jo godt, at det haster.


I nogle lande har man taget stilling til AI og vurderet, at det slet ikke skal bruges. Det har Italien eksempelvis gjort, mens vi i Danmark generelt ser AI i et effektiviseringsnarrativ. Og husker man eksempelvis at sikre datakvaliteten og at give medarbejderne de rette kompetencer, så er der også klare fordele ved brug af AI, eksempelvis i store virksomheder, hvor AI kan løse opgaver, der tog en analytiker dagevis, men hvor en sprogmodel kan fodres med en klar beskrivelse af opgaven og løse den på et nanosekund.

Hvad sker der med et AI-styret arbejdsmarked?

Men der kan være afledte effekter på arbejdsmarkedet, der ikke er hensigtsmæssige, og som vi skal have nogle løsninger på, konstaterer Louise Harder Fischer.


- Du kan risikere at blive meget ensom i dit arbejde, hvis din tætteste kollega er ChatGPT. Det sker allerede nu på grund af automatiseringer, hvor du som medarbejder holder styr på din egen robot, og hvor du er ansvarlig for en lille del af en arbejdsopgave, men ikke kan se hele processen. Og når du ikke kan redegøre for helheden, mister du mening og identitet i det arbejde, du ellers var glad for.


Helt konkret dykker Louise Harder Fischer derfor til efteråret ned i et forskningsprojekt, der skal afdække, hvad der sker, når man indfører ChatGPT i en kommunikationsafdeling i en kommune. Hvordan vil det ændre naturen af arbejdet, hvordan tænkes meningsfuldhed, trivsel, identitet, samtale og læring ind, og hvordan kan man skabe erfaringsbaseret læring?


- Det er helt centralt, at folk oplever meningsfuldhed i deres arbejde, og at der er plads til læring og deling af viden. Hvordan sikrer vi, at implementering af ny teknologi sker i et tempo, så folk kan følge med? For teknologi er invasiv, det har vi forskere vidst længe, men nu er det også gået op for lægmand, fordi ChatGPT forandrer vores verden så ekstremt og på så kort tid. Der er store effektiviseringsgevinster, men heldigvis er der også en interesse for, hvordan vi får arbejdspladserne til at fungere.
Helt konkret vil en udløber af det, der reelt er et feltstudie i indførelse af AI, føre til et produkt om, hvad det er for sociotekniske designprincipper, de bør abonnere på, når der indføres ny teknologi – herunder også AI.
- Det handler om en balance mellem effektivisering og menneskelige værdier og trivsel.

}