Udenlandske studier: AI gør os mindre solidariske

AI bliver brugt til at forudsige vores adfærd på mange forskellige måder, og ofte kan de data, der indsamles om os, sige mere, end vi selv ved, eller før vi ved det, til stor gavn for annoncørerne. Data kan forudsige, om vi har stor sandsynlighed for at blive skilt, få en fartbøde, blive kriminelle eller ramt af sygdom, og vi er nået til et punkt i udviklingen, hvor vi skal tage stilling til, hvad vi vil bruge og ikke bruge det til og på hvilken måde, mener professor i etik på Institut for Kultur og Information på Aalborg Universitet, Thomas Ploug.

- Faren er, at nem adgang til AI-forudsigelser kan føre til en deterministisk tankegang. Hvis vi tror så meget på, at noget vil ske, kan det blive sandheden. Og så synes vi måske pludselig ikke, at alle skal have samme rettigheder, sagde han til en debat hos Tænketanken Mandag Morgen om forudsigelser med AI.

Og den tankegang er præcis det, nye studier fra England og USA viser tydelige tegn på – at AI gør os mindre solidariske.

Forudsigelserne skal bruges

I undersøgelserne er 300 personer blevet spurgt, om de mener, at rettigheder skal fordeles efter, hvor stor sandsynlighed der er for forskellige udfald af folks liv.

Et spørgsmål handler f.eks. om, hvorvidt du skal fratages retten til SU, hvis der er en vis sandsynlighed for, at du frafalder studiet? Et andet handler om, du skal fratages retten til at deltage i en demonstration, hvis AI kan påvise en sandsynlighed for, at du vil opføre dig voldeligt?

Størstedelen, totredjedele, svarede ja til, at det er rimeligt, at rettigheder tildeles efter forudsigelser om ens liv. Og det næste spørgsmål var så, hvor præcis modellen skal være, før det er rimeligt at handle efter den?

Ift. at tildele SU efter risiko for frafald var gennemsnittet for svarene, at havde modellen en præcision på 79 %, så var det okay.  Ift. risiko for voldelig adfærd til en demonstration, så skulle modellen blot have en præcision på 75 % for, at de adspurgte mente, at man kunne tage retten til at demonstrere fra folk.

Et tredje spørgsmål handlede om retten til at tegne en livsforsikring. Og hvis AI kunne forudsige, at du dør som 55-årig, så var kravet fra de adspurgte, at modellen skulle have en præcision på 82 %, for at nægte folk at tegne en livsforsikring.

Hvad med de 20 %, der er tilbage?

Svarene er stærkt bekymrende, mener professor i etik Thomas Ploug. 

- Jeg havde måske regnet med, at folk ville acceptere en model, der var 99 eller 100 % præcis. Det er stærkt bekymrende, at man er villig til at tage andres rettigheder fra dem, hvis modellen er nede på 75 % præcision. Det vil jeg kalde en afsolidarisering, sagde han.

Der har i mange år været forskel på rettigheder på det kommercielle marked f.eks. hos forsikringsselskaber, hvor eksempelvis unge mænd betaler mere for en bilforsikring.

- Men her taler vi om rettigheder og solidaritet i vores ”kollektive forsikringsselskab”, nemlig staten f.eks. ift. SU, siger Thomas Ploug. Han kalder det en tendens, han kan se i horisonten, ”at vi ikke er enige om, at der skal være lige adgang til sundhed og uddannelse”, men han understreger, at vi ikke har danske studier på området endnu.

Han uddyber, hvorfor tendensen er problematisk:

- Din adfærd er jo ikke determineret, ikke alle forudsigelser holder. Hvad med de cirka 20 %, som modellen havde som fejlmargen? Ligesom det udfordrer velfærdsmodellen, hvor vi er solidariske, og de bredeste skuldre bærer.

Et politisk ansvar, hvordan de bruges

Johan Busse, national og juridisk chef i Institut for Menneskerettigheder og formand for Dataetisk Råd, er ikke overrasket over resultatet i de udenlandske studier.

- Det er i tråd med debatten herhjemme om, hvorvidt man har krav på samme sundhedsydelser, hvis man ryger eller spiser mange flødekartofler. Og det er jo ikke et illegitimt synspunkt, at hvis der er 75 % risiko for, at du er en idiot til en demonstration, så skal du ikke have lov at komme med. Men menneskerettigheder er universelle, og der ligger et stort politisk ansvar i at bruge de muligheder AI giver os ift. forudsigelser på en god måde og overveje konsekvenserne grundigt, hvis man lader rettigheder og forudsigelser hænge sammen, sagde han.