Kunstig intelligens har brug for humanister

- Jeg opererer i et felt, der længe har været domineret af it-uddannede, men den humanistiske dimension bliver vigtigere og vigtigere, siger Anne Bøgh Fangel. Hun er Director of Customer Engagement and Innovation i virksomheden Omilon, der udvikler kunstig intelligens til dokumentationsprocesser. Derudover sidder hun i en række advisory boards og ekspertgrupper, der beskæftiger sig med kunstig intelligens.  

Men det at arbejde inden for det digitale var slet ikke hendes plan til at begynde med. 

- Jeg har læst engelsk litteratur og troede, at jeg skulle arbejde på et forlag, men efter en etårig overbygning på Informationsvidenskab var jeg solgt - og siden har jeg været optaget af samspillet mellem teknologi og arbejdsprocesser. Som humanist er jeg optaget af brugerinddragelse, innovation og facilitering af forandringsprocesser, siger hun og fortæller, at hun i dag arbejder med netop det i forhold til kunstig intelligens, og her er hendes oplevelse, at der i den grad er brug for de humanistiske kompetencer.

- Når man udvikler kunstig intelligens til organisationer, er man ofte inde at røre ved noget fundamentalt ved folks arbejdsprocesser og identitet. Og hvis man udvikler kunstig intelligens uden involvering af de mennesker, det kommer til at berøre, risikerer man at møde modstand og får ikke folk til at tage ejerskab. Ligesom man også kan ramme frygteligt galt i forhold til det der er brug for. For det at designe nye arbejdsprocesser, er ikke så simpelt. Så man er nødt til at have brugerne med. Og det kræver, at man kan skabe en forståelse for, hvad AI er, hvad den kan, og hvad den ikke kan? Og her kan humanister have en vigtig rolle i oversættelsen og faciliteringen af det tværfaglige samarbejde, siger hun.   

- En fejl, mange har begået i udviklingen af AI-projekter, er, at man har haft et meget stort “tech-fokus”. Man har ansat en ekspert i machine learning, og så er der gået teknik i den. Man har f.eks. fokuseret primært på AI-modellen, og når løsningen så skal implementeres, finder man ud af, at den ikke kan bruges til det, medarbejderne har brug for, og at der er stor modstand imod det. Selvfølgelig findes der også machine learning eksperter, der er “multikunstnere”, og som også er dygtige til brugerinddragelse og forandringsledelse, men man kan ikke forvente, at en machine learning ekspert, der skal have styr på algoritmer og den teknologiske udvikling, også har styr på formidling og facilitering, der ofte er klassisk humanistisk arbejde.  

At lytte er en faglighed 

Anne Bøgh Fangel har derfor stor tiltro til tværfagligt arbejde.  

- Hvis man for alvor vil lykkedes som virksomhed, skal du have medarbejdere, der er top indenfor alle discipliner. Det kan en enkeltperson ikke være, siger hun og fortæller, at hun oplever en tendens til, at man tror, at alle kan tale med brugerne. Og som hun siger:  

- Det er også rigtig nok, men der er forskel på, hvad man får ud af det. Når jeg taler med brugere, er det vigtigste, at jeg lytter til, hvad de siger. Hvis det at lytte ikke er en faglighed, man har dyrket, og hvis man er meget produktorienteret, så sætter man sin egen machine leaning algoritme eller sit eget produkt i centrum i stedet for at se det ud fra brugernes perspektiv. Man får aldrig overvejet om produktet overhovedet er relevant for brugerne? For det er svært at være produktets og brugernes ambassadør samtidig, siger Anne Bøgh Fangel. 

- I Omilon arbejder vi med dokumentationsprocesserne på bl.a. hospitalerne, og vi er nødt til at kende de ansattes arbejdsprocesser, for hvis vi ikke forstår deres hverdag i sin helhed, og hvordan produktet kan spille ind eller ikke kan spille ind i arbejdsprocesserne, så forstår vi ikke, hvad vores løsninger skal kunne, siger hun. 

Anne Bøgh Fangel er igennem årene stødt på flere eksempler, hvor det er gået galt. Et eksempel var en virksomhed, der lavede desk top-løsninger til en medarbejdergruppe, der aldrig sad ved en computer, men kun brugte deres telefoner. Eller en asiatisk virksomhed, der gerne ville ind på det europæiske marked, og havde lavet en brugergrænseflade, som man ifølge Anne Bøgh Fangel skulle være ”ingeniør for at bruge.” 

- De talte om brugere og personaer, men det var først, da en kollega udfordrede dem og sagde ”men brugeren kunne jo også være din mor”, at det det gik op for dem, at brugerne jo ikke nødvendigvis var tekniske anlagte. På den måde bliver brugeren nogle gange en abstraktion, siger hun og påpeger, at det bl.a. kan udgås ved at ansætte en med en humanistisk baggrund. 

Ekspert i noget andet 

Og der er flere grunde til, at humanister ifølge Anne Bøgh Fangel har en vigtig rolle at spille i udviklingen af kunstig intelligens. 

- Kunstig intelligens kommer med alle mulige etiske dilemmaer. Hvordan bruger vi det? Hvad er betydningen for samfundet? Hvad sker der med vores arbejde i fremtiden?  

Og det er spørgsmål, der ligger lige til højrebenet for f.eks. humanister, der har læst antropologi, filosofi eller idéhistorie. Og udover, at humanister kan binde ting sammen, oversætte fagligheder og udfordre, hvordan teknologien skal bruges, så kan de være med at validere, at det er de rigtige resultater, en given AI-løsning kommer med, og at de er gode nok. Det kan godt være, at en machine learning ekspert synes, at et svar er fint, men så kommer lingvisten på banen og kan tilføre andre dimensioner, som kan føre til, at løsningen bliver bedre i praksis, siger hun.  

Men hvordan får man som humanist succes i det digitale felt? 

- Man skal sætte sig selv i spil og kaste sig ud det og samtidig ikke være en besserwisser, men være ydmyg og stille sig til rådighed. Og så lytte! At lytte er guds gave til samarbejdet. Og så skal man skal være diplomatisk både internt og eksternt og have respekt for, at man er inde at røre ved noget grundlæggende i folks arbejdsliv. I forhold til kunstig intelligens kan folk f.eks. være bange for at vise, hvordan deres arbejdsprocesser fungerer, og hvordan hverdagen faktisk tager sig ud, fordi de kan være bange for at miste deres arbejde. Så man skal have sin etik i orden.  

Men den allervigtigste kompetence er at være nysgerrig. Jeg er ikke specielt teknisk, men jeg er nysgerrig, og igennem alle årene, har jeg forsøgt at forstå de overordnede linjer og bringe min viden i spil i tekniske sammenhænge. Mange tror, at man skal være ekspert på teknikken og kunstig intelligens, men det behøver man ikke. Som humanist er man ekspert på noget andet.