Digitaliseringen udfordrer vores åndsfrihed, ligeværd og demokrati

Af Professor Ole Sejer Iversen, Center for Computational Thinking & Design, Aarhus Universitet

Digitale teknologier omkalfatrer vores arbejdsliv, hverdagsliv, sociale relationer og demokratiske samfundsstruktur. Det oplever vi eksempelvis i den borgernære service, hvor prædiktive teknologier spiller en større og større rolle for borgernes møde med samfundets bærende institutioner. Det gælder i politiets arbejde, hvor algoritmer kan anvendes til forudsigelser af kriminalitet, i retssystemet hvor kunstig intelligens kan anvendes som støtte til domsafsigelse og i kommunerne, der allerede bruger avanceret databehandling i den borgernære service. 

At teknologiske innovationer ændrer vores levevilkår er historisk set ikke nyt. Tænk blot på ploven, elektriciteten, dampmaskinen eller benzinmotoren, som alle er teknologier, der igennem tiden har forandret vores levevis radikalt. Men den digitale teknologi har én kvalitet, som er af afgørende betydning: den udvider vores kognitive formåen i en grad, som vi ikke før har kendt til. Tænk blot på computermodellers simulering af den komplekse COVID-19 smittespredning, på computeralgoritmers evne til at diagnosticere hjerteanfald på Alarmcentralens 112 eller på søgemaskiners evne til at give os forbrugere de informationer på internettet, som vi ønsker, uden vi nødvendigvis selv har efterspurgt dem. Digitale teknologier er vitale for vores samfund, men set i sammenhæng med befolkningens generelle lave vidensniveau om netop digital teknologi, udfordrer teknologierne vores åndsfrihed, ligeværd og demokrati. Lad mig komme med tre eksempler på disse udfordringer.

Åndsfrihed i kommercielle rammer

I et kontroversielt studie fra 2014 udført i et samarbejde mellem Cornell University og Facebook undersøgte forskere, hvordan følelsesmæssige tilstande kan overføres til andre mennesker på platforme som Facebook. I et eksperiment med 689.003 Facebookbrugere, påviste forskerne, at der opstår en følelsesmæssig “smitte” i et online fællesskab som Facebook, når forskerne manipulerer med den enkelte brugers nyhedssider. Når forskerne reducerede de positive udtryk i menneskers nyhedsfeed, producerede samme mennesker færre positive indlæg og flere negative indlæg. Når negative udtryk blev reduceret, opstod det modsatte mønster. En sådan følelsesmæssig påvirkning eller “smitte” mellem mennesker er ikke en ny opdagelse.  Det nye i studiet er, at mennesker alene ved at læse særligt tilrettelagte positive eller negative nyhedsstrømme og uden nogen form for personlig interaktion også oplevede en smitteeffekt. Dette skete vel at mærke, uden at de 689.003 mennesker var vidende om deres følelsesmæssige påvirkning eller at de i det hele taget var en del af et studie. Der er flere kontroversielle faktorer omkring studiet, der er værd at dvæle ved.

For det første påviste studiet, at vi som mennesker lader os følelsesmæssigt påvirke af de opslag, som vi læser på Facebook. Facebook og lignende sociale medier er kommercielle foretagender, der lever af indtægter fra virksomheder eller politiske organisationer, der vil bruge platformen til at komme med budskaber om produkter eller politiske holdninger. Studiet viser, at vi som mennesker i høj grad påvirkes af disse budskaber. Når sociale medier ikke i samme grad som konventionelle medier har et klart afsender- og modtagerforhold, og Facebook samtidig har et særdeles nagelfast kendskab til vores politiske, seksuelle, religiøse observans, har de dermed særdeles gode muligheder for at påvirke vores holdninger, uden at vi er bevidste om den manipulation, som vi er udsat for. 

For det andet påviste studiet, at Facebook uden særligt samtykke kan foretage omfangsrige studier af brugere uden man på det tidspunkt (2013) skulle indhente særlig tilladelse fra de implicerede brugere. Facebook udtalte selv, at studiet “var i overensstemmelse med Facebooks Data Use Policy”, som alle brugere underskriver før man opretter en Facebook konto. Altså har man som bruger af Facebooks kommercielle omgivelser allerede samtykket i at indgå i disse studier. Og her er Facebook i sin gode ret. Facebook er en kommerciel platform, hvor vi som brugere selv godkender de forudsætninger, der gælder for at bruge platformens i første omgang omkostningsfrie ydelser. 

Samlet set viser dette ældre studie, at digitale teknologier i høj grad har mulighed for at øve indflydelse på vores nyhedsindsamling, vores følelsesmæssige respons på nyheder og politiske statements og dermed vores frie tanker og ultimativt vores demokratiske ret.  Jeg mener, at studiet fra 2013 viser, at vi som borgere i et demokratisk samfund og vores politikere ikke for alvor har forstået omfanget af de muligheder, der ligger i digital teknologi, når det gælder påvirkning af borgernes åndsfrihed og demokrati. Et omfang, der kan forårsage, at vores demokrati eroderer indefra, hvis vi ikke er bevidste om initiativer, der kan forhindre en afdemokratisering i takt med den tiltagende digitalisering. 

Alle er lige på internet, på nær hvis du er kvinde

Men også vores ligeværd knægtes af uigennemsigtige algoritmer. Hvor mange af os anskuer ligeværd som en diskussion i det offentlige rum, på arbejdspladsen eller i hjemmet, er det de færreste, der er opmærksomme på, hvad algoritmer bag søgemaskiner gør ved fx ligeværd mellem kønnene.

I et studie fra 2015 undersøgte forskere fra Carnegie Mellon University, hvordan algoritmer på internettet påvirker ligestillingen mellem kønnene. Forskerne undersøgte, hvordan søgemaskinen Google ville behandle mænd og kvinder med identiske kompetencer i forhold til at erhverve sig et højt betalt job. Studiet målte på antallet af reklamer eller rekrutteringsbureauers henvendelser, som en kandidat fik. Studiet viste, at hvor kvinder i gennemsnit fik ca. 300 henvendelser fik mænd med en identiske kompetenceprofil ca. 1800 henvendelser altså cirka seks gange så mange henvendelser som en kvinde med samme kompetenceprofil. Forskerne tager i studiet en række forbehold for resultatet og påpeger, at Google som sådan ikke gør noget ulovligt. Ikke desto mindre påviser de, at algoritmerne under vores hverdagsteknologier kan være biased og dermed alvorligt påvirke vores fundamentale forståelse for ligeværd på jobmarkedet og i verden generelt. Den manglende gennemsigtighed i algoritmer gør det svært at problematisere over algoritmerne og deres manglende kønsneutralitet. Samtidig er vi håbløst bagud på den nødvendige lovgivning, der effektivt gør op med denne fundamentale og digitalt understøttede ulighed imellem os, som har så stor betydning i en verden anno 2020.

Lighed for loven - så længe du er velhavende eller hvid

Et sidste eksempel på digitale teknologiers mulige indflydelse på vores fundamentale demokratiske rettigheder kan hentes fra politiets indførsel af prædiktive systemer til allokering af ressourcer til kriminalitetsbekæmpelse. Systemerne kommer i forskellige kommercielle indpakninger, men betegnes samlet som “predictive policing”. De bygger alle på kunstig intelligens, hvor data fra årtiers politiforretninger og demografiske data (tæthed af restaurationer, socioøkonomiske nøgletal, etc.)  anvendes til at forudsige, hvor og hvornår kriminaliteten sker. Systemerne kan på dette datagrundlag forudsige, hvor kriminalitet begås, eller hvilket individ en politipatrulje skal undersøge nærmere i forhold til ulovlige forhold. Der er utvivlsomt et stort potentiale i predictive policing i forhold til ressourceallokering hos politietaten. Men systemet har også stor betydning for den borgernære service eller rettere på borgerens oplevelse af samfundets institutioner. I USA er man længere fremme med implementeringen af systemet.  I en spørgeskemaundersøgelse gengivet i tidsskriftet Version 2 oplever 2 procent af befolkningen i Los Angeles, at de bliver tilfældigt stoppet på gaden af politiet mere end 10 gange om ugen. Mens andre 76 procent af de interviewede indbyggere i Los Angeles aldrig havde oplevet at blive stoppet. Studiet illustrerer, at en udvidet anvendelse af algoritmer i politiarbejdet kan skævvride borgernes opfattelse af myndighedernes arbejde. Baseret på forhold, som ikke nødvendigvis er tilgængeligt for andre end algoritmen selv, vil borgerne ud fra forhold som alder, etnicitet, tidligere kriminelle forhold, bopæl eller socioøkonomiske forhold opleve at vores demokratiske princip om “lighed for loven” krænkes gennem den udvidede algoritmeanvendelse i USA og snart også i danske samfundsinstitutioner som politi, domstole og borgernær service.

Ambitionen for 2030

Det store spørgsmål der står tilbage efter disse eksempler er, hvordan vi udnytter de muligheder, som digitale teknologier giver os for at løse store samfundsmæssige udfordringer og samtidig er kritiske og bevidste om den udfordringer, som teknologierne giver for åndsfrihed, ligeværd og demokrati.

Det kræver store ambitioner for det næste årti og særligt for humanvidenskaberne, som har en del at byde ind med her, hvis altså vi tør kravle ned fra de høje trækroner og blande os med lige dele respekt og kritisk sans for digital teknologi som materiale.

Det internationale samfund står overfor store udfordringer, som utvivlsomt ikke kan løses uden menneskers udvikling af afgørende digitale teknologiske innovationer. Det gælder eksempelvis udfordringer i relation til klimaforandringer, at stoppe den massive nedgang i biodiversitet, og ikke mindst indsatser mod globale pandemier. Det vil kræve en yderligere intensivering i teknologiudvikling og forskning i digital teknologi, som vi ikke kan være foruden. Men samtidig må ambitionen være, at en udvidet anvendelse af digitale teknologier ikke må knægte, men nærmere styrke vores fundamentale demokratier værdier som åndsfrihed, ligeværd og demokrati. For at lykkes med dette dobbelte formål, må følgende seks ambitioner opfyldes over de næste 10 år.

• Alle uddannelser fra grundskole til videregående, skal rumme teknologiforståelse, hvor elever og studerende finder sprog og kunnen til at forstå og konstruere digital teknologi.
• Vi skal som samfund sætte gang i en generel borgeroplysning, så alle borgere har muligheder for at tilegne sig viden, der er nødvendig for at begå sig i et digitaliseret samfund.
• Alle offentlige systemer skal bygge på borgerinddragelse i udviklingsprocessen og på en transparent data- og algoritmeanvendelse.
• Der skal udvikles humancentrerede, etiske standarder og procesmodeller for udvikling af kunstig intelligens og maskinlæring for alle it-udviklingsprojekter.
• Politikere skal have forskningsbaseret viden til at lave lovgivning på området, der sikrer åndsfrihed, ligeværd og demokrati
• Tværfaglige forskningsprojekter om digitale teknologiers konsekvenser for åndsfrihed, ligeværd og demokrati skal prioriteres i Danmark.

Start med uddannelse, teknologi standarder, og interdisciplinær forskning

I Danmark har vi stærke traditioner for at udvikle vores samfundsstrukturer ud fra de grundlæggende principper om åndsfrihed, ligeværd og demokrati. Derfor har vi ikke blot en mulighed, men også en international forpligtelse i at gå forrest i at anvende digitaliseringen til at løse nogle af samfundets store udfordringer samtidig med, at vi støtter op om vores basale demokratiske værdier. For at realisere visionen for de kommende 10 år, kan vi gå i gang med at uddanne os, udvikle standarder for algoritmer med mennesket i centrum og forskningsbaseret viden, der skal sætte vores politikere i stand til at udvikle lovgivningen inden for digital teknologianvendelse. Lad os ikke stiltiende acceptere, at digitaliseringen eroderer demokratiet indefra, men i stedet iværksætte initiativer, der skaber et demokratisk fundament for den digitalisering, vi står midt i. Lad os hurtigst muligt påbegynde følgende: 

Indfør obligatorisk teknologiforståelse i grundskoler, ungdomsuddannelser og videregående uddannelser

Lad os som det første indføre en obligatorisk teknologiforståelse som et led i alle uddannelser. Alle børn og unge voksne skal som led i en obligatorisk uddannelse i teknologiforståelse lære om datalogisk tænkning, teknologisk handleevne, digital design og designprocesser og digital myndiggørelse for derigennem at opnå forståelse for digital teknologi, en evne til at udtrykke sig digitalt og en evne til at kunne erkende komplekse fænomener gennem anvendelse af digital teknologi. Fagligheden skal være obligatorisk for at forebygge en “digital divide” og samtidig opnå en større diversitet (køn, humanistisk, samfundsvidenskabelige, eller naturligvidenskabelige interesser, socioøkonomisk baggrund) af borgere, der forstår sig på digital teknologi. Initiativet kræver forskning i teknologiforståelse, i teknologiforståelsens didaktik, i udvikling af lærebogsmateriale og en udvikling af vores eksisterende curricula i grundskolen, ungdomsuddannelser og videregående uddannelser.

Iværksæt folkeoplysning om dannelse til det digitale

Digitaliseringen kræver en folkeoplysning, så alle borgere i Danmark på lige fod kan drage nytte af digitale teknologier. Folkeoplysningen skal forebygge en yderligere polarisering i samfundet, hvor kun en udvalgt gruppe drager nytte af den intensive digitalisering. Folkeoplysningen skal tilrettelægges på en måde, så alle uanset forudgående kendskab til eller interesse for digital teknologi inddrages og får et sprog til aktivt at involvere sig i forhold, der vedrører digitalisering.

Sæt gang i udviklingen af demokratiske standarder for kunstig intelligens og dataanvendelse

Der eksisterer standarder for brugervenlighed i teknologiudvikling, men endnu ikke samme generelle standarder for teknologiudvikling med mennesker og fællesskaber i centrum. Danmark skal sætte gang i at udvikle standarder og modeller for kunstig intelligens, herunder at indtænke den nye teknologis konsekvenser for individ, relationer og samfund som en del af udviklingsprocessen. Udviklingen af disse standarder skal ske interdisciplinært med input fra humanistiske, samfundsvidenskabelige og datalogiske miljøer og tage udgangspunkt i udviklingen af gennemsigtige, retfærdige og forklarlige algoritmer særligt i den offentlige sektor og i den borgernære service.

Understøt tværfaglig forskning som vidensgrundlag for policy making

Vi skal iværksætte forskningsprojekter, der kombinerer samfundsvidenskab, humaniora og naturvidenskabelig forskning for derigennem at give vores politikere bedst muligt fundament for at lovgive omkring algoritme- og dataanvendelsens mange skyggesider. Digitaliseringen kalder ikke på quickfixes, men på langsigtede vidensbaserede løsninger, som forskere i Danmark kan og skal levere.

Digital teknologi er ikke i sig selv udemokratisk. En mulig demokratisk erodering i Danmark vil derfor alene skyldes vores manglende forståelse for de demokratiske udfordringer, som vi tillader i vores teknologianvendelse. Lad os få sat gang i folkeoplysningen, i uddannelsen og i international og national lovgivning og ikke mindst en tværfaglig forskning i digital teknologi, der med humanvidenskabernes aktive deltagelse sætter mennesket, fællesskaber og det demokratiske samfund i centrum af al teknologiudvikling.