Dansk professor bag nyt AI kodeks

Kan du vurdere om indhold er skabt med AI eller ej? Alle studier viser, at det kan du ikke!

- Det er lige så usikkert som at slå med en terning, om vi rammer rigtigt eller forkert, siger professor på Aarhus Universitet Anja Bechmann, der forsker i kollektiv adfærd, og i, hvordan vi vurderer AI-indhold.

Hun følte det derfor som sin pligt at takke ja til at blive formand for den gruppe, der skulle udvikle retningslinjer for, hvordan medier, virksomheder, organisationer og andre professionelle indholdsproducenter i EU, lever op til AI Act, der træder i kraft 2. august 2026.

- Teknologien bliver kun bedre og bedre, så det bliver ikke nemmere at skelne syntetisk fra autentisk indhold. Desuden er vi nået til et punkt, hvor der er flere AI-genererede tekster end autentisk indhold på nettet. Og det vil stige, fordi AI-systemerne sandsynligvis favoriserer AI-indhold, hvis de ikke bliver bedt om andet, siger Anja Bechmann, og understreger, at AI-indhold ikke nødvendigvis er dårligt, men det er en stigende trussel mod demokratiet, hvis vi ikke får skabt langt mere transparens om indholdet, så vi ved, hvad der er AI-skabt, og hvad der ikke er, og på den måde bevarer troværdigheden og tilliden i samfundet og imellem os.

- Konsekvenserne, hvis vi ikke kan afkode indholdet, er mistillid og utryghed, hvilket f.eks. kan bruges geopolitisk til at skabe kaos i andre lande. Eller vi får befolkninger, der ikke tror på noget og trækker sig fra informationslandskabet, hvilket Trump-administrationen i USA f.eks. har udnyttet til at skabe deres egne sandheder, siger Anja Bechmann.  

Synligt og usynligt label

Transparens er da også et grundkrav i EU’s AI Act. Spørgsmålet var bare, hvordan det konkret skulle udmønte sig, så det var opgaven til den uafhængige forskerledergruppe, der udover Anja Bechmann består af viceformændene professor Madalina Botan og professor Giovanni De Gregorio.

Det stod ret tidligt klart for dem, at et frit tilgængeligt ikon til alle indholdsproducenter i EU var en oplagt idé, fordi de så overholdt loven om at mærke indhold. Så det ikon er udviklet sideløbende med kodekset, og er klar fra 2. august 2026 til at blive integrere i ens contentsystemer. Der er forskel på, hvor ikonet skal placeres, alt efter om man producerer kreativt indhold eller ej. (Se boks og foto).  

Overordnet er det to slags indhold, der skal være mærket;

1. Deepfakes. En deepfake er noget, der fejlagtigt fremstår som autentisk. Det kan for eksempel være, hvis man skifter ansigtet på en person ud med et andet.

2. AI-genereret tekst, som skal ud til offentligheden, og er i offentlighedens interesse, hvor der ikke har været menneskelig redigering eller redaktionel gennemgang. Eksempler på det kan være AI-agenter, der publicerer fuldt automatiserede sociale medie-posts, nyheder eller produkttekster.

Udover retningslinjer for selve mærkningen er der er en række andre tiltag i kodekset, såsom placeringen af ikonen, så markeringen kan være mere eller mindre synlig, samt hvordan man kan dokumentere processer for redaktionel gennemgang.

- Incitamentet for indholdsproducenterne er, at man ved at følge kodekset og bruge mærkningen, ved, at man overholder AI-reguleringen, og at man udadtil viser, at man ønsker transparens, siger Anja Bechmann og tilføjer, at man på den måde mindsker sandsynligheden for at komme i EU’s søgelys.  

Input fra 180 tech-interessenter

Det stod også hurtigt klart for forskerne, at tre spørgsmål var vigtige at afgøre for at komme med et brugbart kodeks:

1.      Hvad er muligt teknologisk?

2.      Hvad er bedst for borgerne?

3.      Hvad kan flest implementere?

- Indholdsproducenter er i forvejen pressede, så vi ønsker at gøre det så nemt og anvendeligt som muligt i en travl hverdag, siger Anja Bechmann, der sammen med kollegaerne lyttede til mere end 180 interessenter i arbejdet med kodekset - fra tech-giganter og store mediebranche-organisationer til globale virksomheder på tværs af brancher.

- De fleste betvivlede ikke, at vi f.eks. skulle have et ikon. De ønskede faktisk selv at skabe mere troværdighed om indholdet. Big tech tjener penge på godt indhold ved at sælge annoncer, så de er allerede langt fremme på mærkningsdelen. Og hele den her proces har betydet, at mange af de involverede allerede er begyndt at tænke elementer fra kodekset ind i udviklingen af deres software og interfaceløsninger, siger Anja Bechmann.

Udfordringen har været at samle alle input og lave et samlet kodeks som alle (de meget forskellige) nationalstater kan se sig selv i - og på kun syv måneder.

- Vi har været nødt til at sige højt undervejs, at det her er første skridt mod et økosystem med mere transparens, men det er ikke gjort ved vores arbejde. Udviklingen går så stærkt, og folks adfærd ændrer sig, så det har været vigtigt for os, at der blev afsat midler til at videreudvikle og følge op på kodekset og mærkningen; det er vi lykkedes med, og det er skrevet ind som en grundpræmis i kodekset.

Risikerer vi en falsk tryghed

Når vi vænner os til, at AI-indhold er mærket, risikerer vi så ikke at blive endnu mere snydt af dem, der så ikke mærker deres indhold. Så vi får en falsk tryghed ved mærkningen?

- De, der vil lave skadelige handlinger, vil altid være der, men det vil jo så være strafbart. For størstedelen af indholdet får vi en langt større sikkerhed og hjælp til at skelne mellem autentisk og AI-deepfake-indhold fra hinanden, siger hun.

Med mærkningen viser man, hvad der med sikkerhed er AI, men det betyder, jo så ikke, at alt andet ikke er AI, understreger Anja Bechmann, der synes, at et mærke på menneskeskabt indhold (et authenticity stamp), også ville være en god idé i fremtiden. Men det er ikke en del af lovteksten i AI Act.  

De nye Ikoner fra EU til at mærke AI-genereret indhold