Comic sans kunne koste dig jobbet: New York vil slå ned på kunstig intelligens, der frasorterer jobansøgere

Har du briller?

Bruger du Comic Sans i din jobansøgning?

Har du en diagnose?

Hvis dit svar er ja til et eller flere af spørgsmålene, så risikerer du at blive frasorteret af en algoritme, hvis du søger job hos en virksomhed, der ligger i New York City. 

Virksomheder i den amerikanske millionby bruger nemlig kunstig intelligens til at screene jobansøgere. Håbet er, at teknologien kan hjælper med at finde de bedst mulige ansøgere til jobbet.

Det har imidlertid vist sig, at den kunstige intelligens har været lidt for nærtagende i frasorteringen af ansøgere. Jobansøgere er blevet valgt fra på baggrund af både køn og race, men også for at bruge briller, eller sågar hvilken skrifttype de havde brugt i deres jobansøgning.

Derfor skal den kunstige intelligens – på engelsk forkortet AI - bag screeningsværktøjerne nu reguleres, mener New York City Council, der er pendanten til et byråd i dansk kontekst.

Faren ved at overlade for mange vurderinger til algoritmer er, at der sker automatiske fravalg, der er af natur er subjektive, men fremstår objektive, fordi processen sker digitalt, siger Frans Bévort, der forsker i human ressource management på Copenhagen Business School.

”Når man laver AI-algoritmer, kommer mennesker til at indbygge egne bias. Det er helt naturligt, for der skal vælges nogle kriterier, som den kunstige intelligens kan arbejde ud fra. Det er bare et udtryk for, at man som menneske har nogle automatiske meninger om ting”, siger Frans Bévort.

”Udfordringen er dog, at det bliver en mere eller mindre vilkårlig frasortering, fordi man ofte ikke er opmærksom på de bias, man selv har puttet ind i sin AI. Man kommer altså til at sortere folk meget grovere fra, end man havde sat sig for at gøre fra virksomhedens side”.

I New York vil reguleringen bestå i, at uafhængige konsulenter gennemgår virksomheders screenings-værktøjer for at spotte, om de diskriminerer ansøgerne.

Konsulenterne skal dog kun kigge efter race- eller kønsbias.

I princippet kan den jobsøgende altså stadig blive valgt fra for at have valgt en skrifttype, som de algoritmiske screeningsværktøjer anser for at hænge sammen med lav professionalitet.  

Kunstig intelligens har udsigter på det akademiske arbejdsmarked

I Danmark har de algoritmiske-screeningsværktøjer ikke vundet indtog endnu, og det er der en helt praktisk grund til, fortæller Frans Bévort.

”Det skal være en virksomhed med en vis volumen, før AI er effektivt, og de danske virksomheder er generelt ikke store nok”, siger han.

Den algoritmiske screening skal bruge store datasæt til at analysere mønstre. Teknologien er altså god, hvis du skal finde mange medarbejdere med nogenlunde samme profil og kompetencer. Den er til gengæld knap så god, hvis du ansætter færre medarbejdere med forskellige typer af kompetencer og profiler.

”Ofte vil et AI-screeningsværktøj fungere som et dating-site. Du giver den nogle præferencer, og så arbejder den ud fra det. Det er ret firkantet, og det er ikke det, man har brug for, når man skal tænke kreativt”, siger Frans Bévort.

Netop kreativitet er afgørende på det akademiske arbejdsmarked, hvor jobbeskrivelserne ofte er specifikke og komplekse.

”Kunstig intelligens kan ikke finde den atypiske profil, fordi algoritmen hurtigt bliver konservativ. Den søger efter det samme om og om igen, fordi det er opgaven, den er blevet stillet. Men en virksomhed har i virkeligheden mere brug for et system, der kan vise, hvilke profiler den ikke vidste, at den havde brug for”, siger Frans Bévort.

For ham er konklusionen klar: Der vil gå lang tid, før kunstig intelligens bliver en vigtig del af det akademiske jobmarked – særligt herhjemme.