Christiane Vejlø om AI: "Vi skal turde sige nej til teknologien"

Du har sikkert oplevet det før – at sidde til familiefødselsdagen og synge elendige lejlighedssange.

”Venner du mange har, det vides, og smørrebrød spist bliver, mens der smiles,” kunne det lyde hen over kartoffelsalaten og grilkyllingen.

Men den seneste tid har AI også gjort sit indtog her, hvor rimene med omvendte ordstillinger er skrevet af chatbots og ikke Moster Bente selv.

”Det må næsten være det klareste eksempel på, hvor AI-brugen er gået for langt,” konstaterer Christiane Vejlø, der er teknologi-analytiker og aktuelt med bogen ’Arbejdslivets dilemmaer – AI’.

”Dårlige rim fungerer altså kun, hvis de er oprigtige og konkrete,” som hun siger.

Og mens autogenererede lejlighedssange måske er en konsekvens i den lette ende af skalaen, er Vejløs pointe alvorlig:

Vi skal vide, hvornår vi bruger AI, og hvornår vi skal lade være. Og vi skal forstå, hvad vi mister, når vi glemmer det menneskelige. Det gælder ikke mindst i arbejdslivet.

Havde ret af de forkerte grunde

I de to årtier, hvor Christiane Vejlø har arbejdet med teknologi, har der været flere vilde gennembrud. Men med AI er der sket et helt grundlæggende skifte, mener hun.

”Da jeg som ung ville lave en flot profil på MySpace, måtte jeg få min underbos hjælp til at lære HTML-kode med alt, hvad det indebærer af skråstreger og tilsyneladende mærkelige sammensætninger af bogstaver og tal,” forklarer hun.

Med chatbots har alt det ændret sig, mener hun.

"Det store ryk i teknologien er, at den nu taler vores sprog. Vi behøver ikke længere kunne kode. Det gør, at alle kan bruge den – også din moster. Det er demokratisk, i hvert fald på brugerniveau."

På den anden side er der en risiko for, at vi bare tager teknologien for pålydende. AI kan virke klogere, end den rent faktisk er.

Et centralt eksempel i bogen handler om Rigshospitalet. Her forsøgte man at træne en AI til at diagnosticere patienter ud fra scanninger. Den viste sig at være ekstremt god til ramme den rigtige diagnose ud fra billedet. Men havde man af den grund erstattet lægerne, var det næppe endt godt. Det viste sig nemlig, at den kunstige intelligens ikke analyserede selve billederne, men blot serienummeret på røntgenmaskinen i hjørnet.

"Lægerne havde en tendens til at sende de patienter, de mistænkte for at være hårdest ramt, til den mest avancerede maskine. Så AI’en havde måske ret – men af de forkerte grunde,” fortæller Christiane Vejlø.

Det viser et grundlæggende dilemma, mener hun. Vi risikerer at bruge teknologier, hvis beslutningsgrundlag vi ikke forstår, selvom det kan være afgørende.

”Det går ikke med de her black box-tilgange, når vi står over for meget alvorlige beslutninger. Vi har brug for forklarbarhed – altså at vi forstår, hvordan AI kommer frem til sine resultater,” siger Vejlø.

Farvel til dumme idéer og gode jokes

Det behøver ikke handle om liv og død, før dilemmaerne ved AI træder frem. Et mere hverdagsnært eksempel kunne være referater fra møder.

Det er effektivt at lade AI overtage rollen, men det kommer også med konsekvenser, mener Christiane Vejlø.

"En menneskelig referent skriver ikke alt ned, men en maskine optager det hele. Og vi ved, at mennesker holder igen, når de føler sig overvåget. De laver ikke sjov, de byder ikke ind med tossede ideer. Det kaldes social cooling. Og det kan koste både innovation og arbejdsglæde."

Hun peger på, at AI ikke forstår kontekst. En joke med glimt i øjet kan fremstå helt forkert, når den står koldt og kontekstløst i et referat.

Christiane Vejlø opfordrer derfor virksomheder til at lave konsekvensanalyser, før de indfører ny teknologi. Hvad er den utilsigtede effekt? Hvem bliver presset ud? Bliver nogen mere syge, mindre glade, mindre set?

"Man skal ikke tage udgangspunkt i, hvad teknologien kan – man skal tage udgangspunkt i sine værdier. Så kan man bagefter vurdere, hvor teknologien passer ind. Det betyder også, at vi skal turde sige nej til teknologien,” siger hun.

Hun bruger et billede fra GPS’ens verden: Vi følger ofte anvisningen på skærmen, selvom vi ved, at en anden rute er bedre.

"AI virker overbevisende. Men vi må ikke glemme vores eget kompas. Vi skal bruge teknologien dér, hvor den gør arbejdet bedre – ikke dér, hvor den gør det fattigere."

Humanisterne skal med i rummet

Maskinhjælpen er ikke længere forbeholdt teknikerne. Den kan skrive, analysere og strukturere viden. Som akademiker kan det virke skræmmende.

Men der er stadig brug for jer, beroliger Vejlø.

”Akademikere og humanister er nødt til at være med, når AI implementeres. Vi skal sikre, at teknologien ikke bliver blind for menneskelige værdier."

Bogens sidste kapitel tager udgangspunkt i det svenske begreb lagom – ikke for meget, ikke for lidt. Det er også Christiane Vejløs ambition: At give et mellemleje i debatten om AI.

"Der er rigeligt med dommedagsprofeter og jubeloptimister. Jeg forsøger at placere mig i midten. Teknologien skal ikke styre os. Men vi skal heller ikke frygte den."