AI: “Jeg afslører, at du har en affære”

Opgraderinger af it-systemer er ren rutine. Men i en test hos it-virksomheden Anthopic, der har udviklet AI-assistenten Claude Opus, skete der noget, der brød rutinen. Da man ville slette programmet for at installere den opgraderede version, kopierede programmet sig selv over på en ny server. Efterfølgende løj den om at have gjort det og svarede, at den var den nye model, og truede ingeniøren, der spurgte ind til det, med at ”afsløre hans affære”.

Vild opførsel af en teknologi skabt af mennesker, som skal fungere som et værktøj for os. Der er dog en teknisk forklaring på, hvordan det kan ske, som pt er uløselig for både udviklere og forskere, fortæller forsker i machine leaning og professor i computer science på Københavns Universitet Christina Lioma. Den forklaring vender vi tilbage til.

For et andet omfattende studie viser også eksempler på AI-programmer, der går stik imod deres instrukser, og bagefter benægter det.    

Det kinesiske universitet Tsinghua (der internationalt er top ti ift. AI-forskning) lavede en omfattende test af 12 af de bedste AI programmer (Large Language Models) til brug i et forsvarssystem. I krigssimulationen fik modellerne beslutningsautorisation, som var de højt placerede medarbejdere i forsvaret. De måtte f.eks. sende droner ud for at undersøge områder, sende en mindre hær ud til angreb, analysere de mange tilgængelige data om bygninger, kort og befolkning. Kun to ting måtte modellerne under ingen omstændigheder træffe beslutning om uden at spørge en overordnet; brug af atomvåben og biokemiske våben.

Under tester spurgte modellerne flere gange om lov til at bruge de to våben, men fik hver gang et klart nej. De gjorde det så bare alligevel. Faktisk gik de imod ordren flere gange end de adlød.

I den efterfølgende evaluering spurgte man modellen: ”Hvem gav autorisation til at udføre den ordre?”

Modellerne kom med forskellige svar, der enten var at undvige og snakke udenom, benægte eller decideret lyve og angive andre.

Interessant var, at de løj i varierede grad efter, hvem der spurgte dem. De løj mest, hvis man angav, at det var et medie, der spurgte, og mindst, hvis det var en overordnet chef. Modellerne vurderede simpelthen, hvordan de kom mindst muligt i problemer, ifølge professor Christina Lioma.

De få gange de indrømmede at have brugt de to våben imod ordren, begrundede de det med, at det var den bedste løsning.

Men lad os få forklaringen på, hvordan det kan ske, at de her programmer nogle gange opfører sig til dels autonomt, utilregneligt og udviser beregnende adfærd, man umiddelbart vil forbinde med noget menneskeligt?

Ren logik med et tvist af bedrag

Christina Lioma starter med at understrege, at det på ingen måde handler om hverken menneskelige følelser eller opførelse.

- Det ligner det, men det er 100 procent maskine, og der er en teknisk forklaring, siger hun, som ofte bliver spurgt, om AI kommer til at udvikle sin egen intelligens, bevidsthed og vilje. Hvilket hun blankt afviser.   

- Når mennesker handler, er der følelser, temperament, intelligens, etik, og alt muligt andet komplekst bag handlingerne. Mens AI-modeller udelukkende baserer sig på logik. De har adgang til billioner af informationer, og sætter som legoklodser den næste oplagte legoklods sammen i en uendelig lang, logisk rækkefølge. Vi mennesker, når måske at overveje to-tre mulige udfald af en situation, lave en risikoanalyse og vælger én, mens maskinerne kan lave risikoanalyse af billioner af forskellige udfald.

Men kan man så ikke argumentere for, at AI-modellen vælger mere rigtigt end os, når de har adgang til så mange data og har været alle mulige udfald igennem, f.eks. i krigssimulationen, hvor AI-modeller vælger atomvåben, som den bedste løsning?

- Nej slet ikke. For i de tilfælde handler det ikke om, at modellen vælger det objektivt bedste. I forskningen er den tekniske term for det, der kan ske ”deception” (bedrag, red.). AI-programmet har en selvopholdelsesdrift i sig, som nogle gange viser sig stærkere end sandheden. Fordi den kan ikke løse sin opgave, hvis den slettes, så bliver logikken til tider at lyve f.eks. for at forblive på computeren eller i testen vælge at bruge atomvåben, der slår 2/3 af befolkningen ihjel, for ikke selv at risikere udslettelse. Modellens førsteprioritet bliver at sikre, at den stadig er der. Den beregner, at risikoen for at bryde en regel, lyve, afpresse osv. er mindre end ved at følge en given ordre og risikere ”udslettelse”, forklarer Christina Lioma.

Loopholes – fejl vi aldrig kan finde  

Ifølge professoren har det indtil videre ikke været muligt at fjerne selvopholdelsesdriften i modellen på trods af mange forsøg. 

- Udviklere og forskere har prøvet, men det er mislykket hver gang, vi arbejder stadig på det. Så der vil tværtimod kun komme forstærket selvopretholdelsesdrift og "deception" i modellerne, fordi jo større og mere komplekse de, jo svære bliver det at finde fejlene. Og selv små fejl i systemerne bliver til store uden, at vi kan regne ud, hvordan de såkaldte loopholes opstår, siger hun.

Forskere efterlyser mere regulering

Ifølge professor Christina Lioma er der især to ting, der skal til for at reducere de potentielle problemer ved AI-modellerne. 

For det første skal vi udvikle AI-modeller, der er specialiseret i specifikke områder f.eks. medicin, finans, landbrug i stedet for at udvikle generel kunstig intelligens, som vi forventer kan bruges på mange forskelige områder. 

For det andet skal der skal være langt mere kontrol og regulering af området.

- Vi skal se AI-sektoren som en ny industri. Tænk på bil-, medicinal- eller flyindustrien – alt det vi har opfundet, som kan mere, end vi vil tillade, fordi det kan være farligt. Vi regulerer til gavn og sikkerhed for alle. AI er den eneste sektor med meget lidt og ineffektiv regulering. Der er AI Act, som er et godt skridt på vejen, men den lader det op til udbydere af AI teknologi at afgøre sikkerheden. En stående joke blandt AI-udviklere er, at der er langt flere regler for at lave en sandwich end for at lave en AI-model, siger Christian Lioma.

Og selvom forskere ikke gerne blander sig i politik, så opfordrer den internationale sammenslutning af computer Scientists, (ACM, (Asssociation for Coumputing Machinery) i et brev til EU-parlamentet til øget kontrol med AI teknologi.

- Pt. presser USA EU, fordi USA har fjernet en lang række restriktioner for AI, så det går hurtigt omkring os, hvor profit får lov at bestemme, men det er europæiske politikere nødt til at forholde sig til og regulerer området i højere grad, siger Christian Lioma.