Uddannelses- og Forskningsudvalget 2022-23 (2. samling)
UFU Alm.del Bilag 89
Offentligt
2706936_0001.png
VIDENSSØGNING,
UDDANNELSE OG
FORSKNING
- MED KUNSTIG
INTELLIGENS
Hvidbog på baggrund af konference
den 12. april 2023
1
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0002.png
Kolofon:
Videnssøgning, uddannelse og forskning - med kunstig intelligens
Hvidbog på baggrund af konferencen den 12. april 2023
© Foreningen lex.dk
Maj 2023
Redaktion:
Erik Henz Kjeldsen
Layout:
Mette Centio, Centio.dk
Tryk:
Christensen Grafisk
2
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0003.png
Indhold
Forord
..................................................................................4
Resumé
................................................................................5
AI for dummies: Hvad er kunstig intelligens,
ChatGPT, Bart og alle det andet?
Hovedpointer fra Ole Winthers oplæg
...................................
7
Kunstig intelligens skal styrke undervisningen
Hovedpointer fra Rose Luckins oplæg
..................................9
Hvad skal mennesket vide, når maskinen bliver klogere?
Hovedpointer fra Camilla Mehlsens oplæg
...........................
11
Kunstig intelligens og højere uddannelse
Hovedpointer fra Thore Husfeldts oplæg
............................
13
Viden er ikke et meme
Hovedpointer fra Vincent Hendricks’ oplæg
.........................15
Adgangen til troværdig viden er en del af den
demokratiske infrastruktur
Hovedpointer fra Erik Henz Kjeldsens oplæg
.......................17
Hvad er det lovgivningsmæssige perspektiv på
AI – nationalt og europæisk?
Hovedpointer fra Thomas Höppners oplæg
.........................19
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0004.png
Forord
Som et bidrag til en kvalificering af, hvordan vi som samfund både kan bevare og udvikle vores forståelse af,
hvordan viden skabes, tilgængeliggøres og deles, afholdt Danmarks nationalleksikon, lex.dk, i samarbejde med
Danske Universiteter, Danske Professionshøjskoler, Danske Gymnasier og Danske Biblioteker en konference med
danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT.
Konferencen fandt sted den 12. april 2023 på Københavns Universitet, og i denne hvidbog har vi sammenfattet
konferencens konklusioner og anbefalinger.
Det er med stor fornøjelse, at vi allerede nu kan annoncere, at konferencen vil blive en årlig tilbagevendende
begivenhed, som afholdes umiddelbart efter påskeferien. Denne første konference og de enkelte oplæg, kan
genses på mere.lex.dk
4
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0005.png
Resumé
Hvad skal man tro på?
Ansvarshavende chefredaktør Erik Henz Kjeldsen, lex.dk
Kunstig intelligens kommer til at forandre verden lige
så meget, som internettet har gjort. Det står næppe
til diskussion.
I løbet af de første par måneder efter lanceringen af
OpenAI’s ChatGPT i november 2022 fik servicen mere
end 100 mio. besøg, og den nye teknologi fik med det
samme betydning for både virksomheder, uddannelse,
forskning og måden, vi søger information på inter-
nettet på. OpenAI viste os, hvor langt de er kommet
med maskingenereret information. Og nu foregår der
et kapløb: Hvilke selskaber kan udnytte teknologien
bedst og mest relevant for annoncørerne, og hvordan
kan teknologien optimere arbejdsprocesser, reducere
omkostninger og hæve kvaliteten på alskens produkter
og services?
I undervisningssektoren faldt værdien af flere af de
store undervisningsforlag, og på universiteterne og
ungdomsuddannelserne blev der bl.a. stillet følgende
spørgsmål: Hvad betyder det for undervisningen? Hvor-
dan skal vi eksaminere, når studerende og elever kan få
svaret på opgaverne i løbet af 10 sekunder?
I medierne kan vi læse, at Googles topchef ligger
søvnløs om natten, og om techudviklere, der slår alarm
og advarer mod den nye teknologi. Nogle siger op fra
deres jobs, laver underskriftsindsamlinger og sender
fælles breve, der anbefaler en pause i udviklingen af
teknologien. (Det sidste ved vi ikke kommer til at ske.
Konkurrencen er for stor. Pengene for mange). Og si-
denhen kunne World Economic Forum offentliggøre en
undersøgelse blandt de største virksomheder i verden,
der fremmanede et billede af massive opsigelser og
arbejdsløshed, og pludselig var det ikke bare de lavtud-
dannede, der stod for skud: Nu var det i lige så høj grad
advokater og revisorer, der var truet på deres levebrød.
Efter konferencen på Københavns Universitet står i
hvert fald én ting klart: Vi må som samfund prøve at
ruste os og blive klogere på teknologien, så vi kan
udnytte mulighederne og imødegå de største trusler.
Og det haster, for platformene, der bygger på kunstig
intelligens, udvikler sig i en rasende fart.
Så hvad er det, teknologien kan? Ja, man fristes næsten
til at spørge: Er der noget, teknologien ikke kan?
Fokus for konferencen var teknologiens evne til at
levere beskrivelser, svar og løsninger på komplekse
spørgsmål. Noget, som netop nu er ved at blive ind-
arbejdet i de etablerede søgemaskiner, som de fleste
bruger, når de søger viden. Så kunstig intelligens vil
grundlæggende ændre på den måde, vi får viden på: I
en snarlig fremtid vil det formentligt ikke længere være
muligt at se, hvor den information, vi møder, stammer
fra. Artikler og opslag må forventes at være delvist
maskingenererede (i endnu højere grad end i dag) og
uden kildehenvisninger, genereret med udgangspunkt
i tekster indsamlet fra mio. af artikler og opslag på
internettet. Og en del af de tekster, som AI-systemerne
vil generere, vil være det, som datalogerne menne-
skeliggør og kalder hallucinationer, men som reelt er
sproglige konstruktioner, som er noget vrøvl. Algorit-
misk junk. Misinformation. Eller fake news, som vi har
kaldt det for kort tid siden.
Og det stopper ikke der. Kunstig intelligens vil pro-
ducere nyt indhold: Vi vil se billeder og videoer af
begivenheder, der aldrig har fundet sted; lydklip med
udtalelser, der aldrig er blevet sagt, og musik, som
aldrig er blevet indspillet.
Og allerede nu har mange af os læst artikler og tekst-
stumper, som er skabt uberørt af menneskehånd.
Sammensat af computerens mekaniske logik og base-
ret på mio. af tidligere skrevne tekster. De ligner noget
menneskeskabt og redigeret indhold, men er - som Ole
Winther forklarede på konferencen - blot sprog. Genere-
ret ud fra, hvad der tidligere er skrevet. Uden refleksion.
Uden indsigt. Uden erfaring. Uden at der så at sige er
”nogen hjemme”. For AI, som vi møder den i fx ChatGPT,
er ikke intelligent. Den er en sandsynlighedsalgoritme,
der dygtigt beregner næste oplagte stavelse eller ord i
en tekst.
Faresignalerne er mange - men kunstig intelligens rum-
mer også et potentiale. Hvis vi udnytter den rigtigt og
sikrer, at vi får en åben dialog om muligheder, trusler,
styrker og svagheder. En samtale, vi skal have både i
undervisningssektoren, forskningen og som en bredere
demokratisk samtale i samfundet. Så spørgsmålet er,
hvordan vi får den samtale? Og hvordan koncentreres
samtalen til beslutninger, lokalt, nationalt og globalt?
Viden er for Danmark og den vestlige verden helt
centralt for den demokratiske model og for velfærdssta-
ten, og lykkes det ikke for samfundet at sikre adgangen
til troværdig information, vil det være nødvendigt
at revidere indretningen og de politiske visioner for
videnssamfundet.
5
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0006.png
Internettet er allerede i dag den altdominerende platform for søgning af viden og information; men som Thomas
Höppner sagde på konferencen, er de centrale aktører ikke længere optaget af nettets oprindelige demokratiske
vision, hvor internettet skulle understøtte uddannelse og fri adgang til den bedste viden. I dag er den domineren-
de forretningsmodel at indsamle viden om brugerne og sælge den videre.
På den måde er AI endnu et wakeupcall, på samme måde som Cambridge Analytica og skandalen omkring Brexit
og det amerikanske valg var det i forhold til betydningen af sociale medier og fake news.
Eksperterne på konferencen havde en række anbefalinger, som vi har sammenfattet i denne hvidbog, og da nogle
af dem går igen, har vi sammenfattet en top-3 nedenfor:
1. Det bliver afgørende nødvendigt at styrke forståelsen af teknologi i skolen
2. Det bliver afgørende nødvendigt at sikre, at borgerne har fri og uhindret adgang til
troværdig viden
3. Det bliver nødvendigt at regulere techgiganternes dominans og brugen af kunstig intelligens.
Ligesom vi aldrig vil tillade ny medicin uden at godkende den, bør vi også
forholde os til ny teknologi
I kredsen bag konferencen vil vi løbende tage initiativer, der kan bidrage til både samtalen og grundlaget for de
nødvendige beslutninger om kunstig intelligens. Det er nyt for os som aktører, at vi skal samarbejde tæt om en
teknologisk udfordring. Og det er måske en af de mange gode ting, som kommer ud af det pludselige nybrud,
som denne teknologi må siges at være.
Kunstig intelligens rummer også et potentiale. Hvis vi
udnytter den rigtigt og sikrer, at vi får en åben dialog om
muligheder, trusler, styrker og svagheder. En samtale,
vi skal have både i undervisningssektoren, forskningen
og som en bredere demokratisk samtale i samfundet.
6
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0007.png
AI for dummies: Hvad er kunstig intelligens,
ChatGPT, Bart og alt det andet?
Den teknologiske udvikling går stærkt, og med udviklingen af kunstig intelligens (også kaldet AI) og ChatGPT går
verden mod en fremtid, hvor vi ikke længere kan stole på det, som vi ser og hører online. Vi skal som samfund
forholde os til de nye digitale udfordringer. Første skridt i denne proces er at forstå, hvad kunstig intelligens og
ChatGPT egentlig er. Det forklarede professor Ole Winther på konferencen.
Allerede i 2019 lancerede amerikanske OpenAI en ny
såkaldt sprogmodel, der skabte stor opmærksomhed
blandt fagfolk, fordi den viste helt nye former for krea-
tivitet. Ud fra tekstinput kunne den nye model, GPT2,
digte videre på teksten. Det skete via forudsigelser,
hvor modellen kunne ”huske” konteksten i en længere
række af tekstinput, fortæller Ole Winther, ph.d. og
professor i genomisk bioinformatik ved Biologisk
Institut på Københavns Universitet og professor i
datavidenskab og kompleksitet på DTU. Ole Winther
var den første taler på konferencen, og han forklarede,
hvordan de nye teknologiske gennembrud allerede i
2019 indvarslede en ny tid, hvor fagfolk på en gang var
imponerede og i vildrede over den hastige udvikling af
kunstig intelligens.
Den kreative udvikling i sprogmodellen, som også kan
bruges til at generere billeder, lyd og video, blev særligt
tydelig med den første udgave af OpenAI’s billedgenere-
ringsprogram DALL-E. Sprogmodellen var nu blevet så
kreativ, at den kunne opdigte sin egen virkelighed.
Sprogmodellen kunne fx generere en original billedserie
af en lyssværdskæmpende panda, ud fra tekstinputtet
”An illustration of a baby panda in a tutu wielding a
blue lightsaber. I dag – få år efter – kan sprogmodellen
generere fotorealistiske billeder, som ikke er til at skelne
fra rigtige optagelser. Den kan fx generere et egyptisk
vægmaleri, der viser et ægtepar, der skændes over,
hvem der skal gå ud med skraldet. Det er ganske uskyl-
digt, men allerede nu har vi set eksempler på billeder,
som nærmer sig meget virkelighedstro deepfake som fx
billederne af Barack Obama og Angela Merkel, der leger
og danser på en strand.
”GPT” står for ”Generative Pre-trained Transformer”.
GPT er en kunstig intelligens, der er skabt til naturlig
tekstanalyse. Når man taler om kunstig intelligens, skyl-
des det, at det, der ligger bag GPT’en, er et neuralt net-
værk, der er trænet på store mængder tekst og compu-
terkode fra internettet. I netværket er processorenheder
forbundet i en arkitektur, der er inspireret af hjernens
behandling af information. Ole Winther fortalte, at man i
den neurale netværksarkitektur træner GPT’en.
Den tekniske udvikling inden for billedgenerering muliggør opdigtede fotorealistiske billeder.
7
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0008.png
I den første proces bliver sprogmodellen trænet med massive mængder tekst hentet fra internettet. I denne før-
ste fase lærer modellen strukturen i sprog. Problemet er, at sprogmodellen selvsagt ikke forstår, hvilke svar der
er ønskværdige (helt bortset fra at sprogmodellen selvfølgelig ingen chance har for at vurdere, om de sproglige
konstruktioner den skaber, er sande). Så i denne første proces kan sprogmodellen mene og fortælle om hvad
som helst, herunder hvordan man bygger bomber og begår det perfekte mord. GPT er en statistisk model, det
betyder, at hver gang den generer en ny tekst, er det bare en sandsynlig sproglig konstruktion, man får som svar.
Når man taler om kunstig intelligens, skyldes det, at
netværket består af processorenheder, der er forbundet
i en arkitektur, der er inspireret af hjernens behandling
af information.
Derfor bliver man nødt til at tilføje en efterfølgende proces, hvor svarene bliver justeret.
I justeringsfasen hyrer man en masse mennesker til at vurdere de forskellige svar, der genereres af sprogmodellen.
De, der er hyret til at justere modellen, giver systemet feedback og instrukser om, hvad der er gode svar, og hvad der
er dårlige. Modellens forskellige resultater rangordnes, og modellen “trænes” dermed til den rigtige opførsel. GPT
får med andre ord tæsk, indtil den svarer det, som vurderes at være ansvarligt og korrekt.
Ole Winthers anbefalinger
• Stærkere AI kan og vil blive brugt til manipulation. Kun ved at regulere spillereglerne for internettet
og de sociale medier kan vi sikre, at teknologien bliver til gavn
• Skærmene skal fjernes fra folkeskolerne, fordi eleverne bliver distraherede og taber koncentrationen
til sociale medier og andre fristelser
• AI-værktøjer skal udnyttes i undervisning til individualiseret læring, der på pædagogisk vis kan
hjælpe eleverne 24/7
8
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0009.png
Kunstig intelligens skal styrke undervisningen
Kunstig intelligens er et wakeupcall og giver nye muligheder. Frem for at sidde fast i det gamle uddannelsessystem
må vi med AI acceptere, at der er brug for store ændringer. Det skal ske både i forhold til undervisning og eksamen.
En af de førende forskere, professor ved University College London Rose Luckin, arbejder med, hvordan kunstig
intelligens kan demokratisere og skabe lighed i meget ulige uddannelsessystemer verden over.
ChatGPT er ikke en ny teknologi. Sprogmodeller har
eksisteret i et stykke tid, og AI kan dateres helt tilbage til
1950’erne. Det, der er nyt i dag, er, at den sofistikerede
kunstige intelligens er blevet lettilgængelig for milliar-
der af mennesker. Det kan komme til at have lige så stor
betydning for vores alles hverdag, som da internettet
og Googles søgemaskine blev lanceret, vurderer Rose
Luckin, professor ved UCL Knowledge Lab i London.
Rose Luckin er kommet til København for at holde op-
læg på konferencen, og det er ikke overraskende at hun
frem for alt ser muligheder. Luckin har en baggrund fra
AI og uddannelse og er foruden at være professor også
stifter af EDUCATE Ventures, som driver en forskningsac-
celerator for Educational Technology StartUps i London,
der har fokus på AI og udviklingen af evidensbaserede
måder at kombinere menneskelig og kunstig intelligens
på til gavn for menneskelig læring. Rose Luckin ser såle-
des store muligheder, men mener også, at den hastige
udvikling og udbredelse af AI kræver, at vi tænker os
godt om. Vi står midt i et teknologisk grænseland, hvor
politiske beslutninger bliver vigtige for, om de enkelte
lande drager fordele af AI eller ej.
Rose Luckin understreger, at der allerede er talrige
eksempler på, hvordan kunstig intelligens gør stor
gavn i uddannelsessystemet. For det første muliggør
AI, at vi kan bygge systemer, der kan tilbyde vejledning,
som er tilpasset den enkelte elevs behov. AI’en kan
både tilpasse, hvilken form for hjælp eleven har brug
for, og den kan motivere vedkommende til at starte og
fortsætte skolearbejdet. For det andet kan AI handle
autonomt uden løbende at modtage input fra menne-
sker. Eleverne kan for eksempel skrive med en AI-avatar,
som fungerer som en samtalepartner i undervisningen.
Avataren forstår, hvad eleven siger, og den kan svare
derefter. AI kan også fortolke ansigtsudtryk, og hvad
eleven siger – ikke kun ud fra indholdet, men også ud fra
tonen, stilheden og hastigheden i spørgsmålet. Kombi-
nationen af data fra stemme og ansigt kan lede til meget
præcise fortolkninger af elevens følelser og motivation
og styrke læringen.
For Rose Luckin er det afgørende, at man både som
underviser og borger er forsigtig med de næste skridt,
man tager, hvis vi ønsker, at alle skal drage fordele af
tilgængeligheden af kunstig intelligens. Det største
problem er, at der er meget uvidenhed omkring AI. I
Storbritannien er der for eksempel meget få politikere,
der har en videnskabelig baggrund. De har rådgivere,
som kan hjælpe dem med at forstå den nye teknologi,
men alt for ofte mangler politikerne interesse for emnet.
Det kan få store konsekvenser for samfundet, når folk i
politiske nøglepositioner ikke forstår AI, og udviklingen
samtidig brager af sted. Uvidenheden skaber en stor
ubalance i magten – en ubalance, som techvirksomhe-
derne drager størst fordel af, og som forklarer, hvorfor
techgiganterne allerede har en så stor indflydelse på
samfundet i dag.
Der er talrige eksempler på, hvordan kunstig intelligens
gør stor gavn i uddannelsessystemet. For eksempel mulig-
gør AI, at vi kan bygge systemer, der kan tilbyde vejledning,
som er tilpasset den enkelte elevs behov. AI’en kan både
tilpasse, hvilken form for hjælp eleven har brug for, og
den kan motivere vedkommende til at starte og fortsætte
skolearbejdet.
9
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0010.png
At sikre større viden om AI handler ikke om, at politikerne skal forstå den dybere matematik bag deep learning-neu-
rale netværk, men at de skal forstå, hvad disse teknologier kan gøre for samfundet, og hvad de ikke kan. De skal
vide, hvordan AI overordnet set fungerer, slutter Rose Luckin og peger samtidig på, at en af de vigtigste opgaver for
underviserne i den forbindelse er at sikre en generel teknologiforståelse på uddannelsesinstitutionerne.
Rose Luckins anbefalinger
• Vi skal alle have basale AI-færdigheder. Fra folkeskolen til universitetet og på arbejdspladsen
skal vi vide, hvordan vi bruger og lever med AI. Ved at forstå, hvad AI kan gøre, og hvordan man
drager fordele af den, minimerer vi risikoen for de skadelige virkninger
• Vi skal være udstyret med det 21. århundredes læringsfærdigheder. Det vil sige problemløsning,
selvreguleret læring, metakognition og godt samarbejde. At være god til at lære bliver afgørende
i fremtiden
• Vi skal være vidende, og kildekritikken skal styrkes. Vi skal i fremtiden i endnu højere grad
diskutere følgende spørgsmål: Hvad er viden? Hvad er forskellen på viden og information?
Hvor kommer viden fra? Hvad er et godt bevis? Hvornår er noget sandt og falsk?
• Vi skal sætte pris på den menneskelige intelligens og vores evner til at forstå os selv, at sam-
arbejde, at vide, hvad vi er gode til, og hvad vi ikke er gode til. Vi kan sætte mål for os selv, få
sparring blandt venner og kollegaer, og vi har en veludviklet metakontekstuel viden. Alt dette
skal vi værdsætte, for her kan kunstig intelligens ikke konkurrere med os
• Vi skal gentænke vores vurderingssystemer, så de fokuserer på lærefærdighederne
• Vi skal overveje den relation, som vi ønsker, der skal være mellem mennesket og AI. Her skal vi
være forsigtige, fordi mennesket er naturligt dovent, og det er nemt at komme til at overdrage
noget til AI, blot fordi det er bekvemt. - ligesom fx GPS’en har haft negative konsekvenser for
vores stedhukommelse
10
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0011.png
Hvad skal mennesket vide, når maskinen
bliver klogere?
For alle os, der bruger søgemaskiner og sociale medier, er maskinen allerede en stor del af vores hverdag. Den nye AI
kommer til at fylde meget, og den er allerede meget klogere end os på mange punkter. De kompetencer, der får størst
værdi i fremtiden, er derfor dem, som maskinen har sværest ved, fortalte Camilla Mehlsen, digital medieanalytiker og
forfatter, i sit indlæg på konferencen.
Det er naturligvis vigtigt, at vi får flere digitale kompe-
tencer, men det er endnu vigtigere, at vi værner om
de særligt menneskelige kompetencer, når den ene
techrevolution følger den anden. Det handler om at
sætte fantasien, samarbejdsevnerne og empatien i spil,
siger Camilla Mehlsen.
Med ny teknologi bliver vi klogere, hurtigere og smartere.
Den største fare er ikke digitale teknologier, der trumfer
menneskets styrker, den største fare er digitale teknologi-
er, der udnytter menneskets svagheder. Det ser vi meget
af i dag – og vi kommer til at se endnu mere af det
med den dramatiske udvikling af kunstig intelligens,
fortæller Camilla Mehlsen som er indehaver af Mehlsen
Media med speciale i digital medieadfærd, kompeten-
cer og kommunikation. Mehlsen har et særligt fokus på
børn og unge, og hun vurderer, at faren især ligger i de
teknologier, der udnytter, at den menneskelige hjerne
er doven. Vi lader os nemt forstyrre. Vi lader os opsluge
af noget, der udnytter vores svage punkter. Spørgsmå-
let er, hvem der egentlig styrer os og vores adfærd? Er
det os selv eller teknologien?
Med ny teknologi bliver vi klogere, hurtigere og smartere.
Den største fare er ikke digitale teknologier, der trumfer
menneskets styrker, den største fare er digitale teknologier,
der udnytter menneskets svagheder.
Der findes to fortællinger om menneskets fremtid med
den teknologiske udvikling: Utopien om det opgrade-
rede menneske og dystopien om det nedgraderede
menneske, siger Camilla Mehlsen. På den ene side
kan man sige, at de nye teknologier er udviklet til at
opgradere mennesket. Vi får nærmest guddommeli-
ge superkræfter, og vi kan simpelthen booste vores
menneskelige evner. Det er drømmen. Det er det, vi
håber, der kommer til at ske. Men på den anden side
kan vi midt i denne begejstring glemme, at der også
er noget, vi bliver dårligere til. Der er noget, vi kan
miste. Vi risikerer at blive til noget, som teknologien
kan udnytte. Vi får svækket vores funktioner, evner og
sanser. Det kan vi blandt andet se i dag, hvor mange
lider af koncentrationsbesvær.
Ifølge Camilla Mehlsen kan det vigtigste, vi skal lære,
særligt børn og unge, opstilles i hendes model ”7 K’er
til fremtiden”. Det er en videreudvikling af det 21.
århundredes kompetencer. Camilla Mehlsens første
model indeholdt 4 K’er: kommunikation, kritisk tænk-
ning, kollaboration og kreativitet. Nu er der tilføjet tre
ekstra K’er: koncentration, kuriositet (evnen til at lære
at lære) og kompetence (karakterdannelse).
Model: 7 K’er til fremtiden
11
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0012.png
De nye digitale teknologier er med til at presse det 21.
århundredes kompetencer. Derfor er det vigtigt, at vi
værner om dem alle sammen. Camilla Mehlsen laver
tre nedslag:
• Koncentrationsevnen er kommet under pres i den
digitale tidsalder. Det går ud over vores evne til at
komme i flow og arbejde dybt koncentreret. Tekno-
logien stresser mange af os – og det er ikke tilfældigt,
det er fordi de digitale platforme er udviklet til at fan-
ge og fastholde vores opmærksomhed. Mennesket er
et produkt i opmærksomhedsøkonomien, og vores
opmærksomhed bliver behandlet som en råvare.
• Det andet nedslag er kuriositeten, som vi skal
beskytte. Det handler om at lære at stille store
spørgsmål. At lære at lære. Den gamle techdrøm var,
at adgangen til informationer ville skabe lighed og
demokratisering. Men vi har ulige forudsætninger, og
den store teknologiske udviklingshastighed spænder
hele tiden ben for nysgerrigheden.
• Og endelig er kritisk tænkning afgørende i en tid med
fake news, influencere, informationsboom, kunstig
intelligens og algoritmer. Vi skal lære, hvad viden
egentlig er. Vi skal kunne skelne mellem viden og
information. Vi kan let komme til at tro, at tekno-
logierne, der hjælper os i hverdagen, er objektive
og neutrale, men det er de ikke. De indeholder alle
mulige former for bias.
Og har man glemt det, kan man prøve at søge
på Google efter billeder af en ”skolepige” eller
en ”sekretær”.
Grunden til, at man får dette billedudvalg, er, at Google
er kommercielt styret. Billederne henviser alle sam-
men til noget, man kan købe. Udviklingen for kunstig
intelligens kommer formentlig også til at blive styret af
kommercielle interesser
Alle disse idéer om formålet med højere uddannelse
Google billedsøgning på ”skolepige”.
Camilla Mehlsens anbefalinger
• Vi skal blive gode til det, maskinen har sværest ved. Det drejer sig om menneskelige kompetencer
som fantasi, samarbejdsevner og empati
• Vi skal i højere grad værne om de syv K’er: kommunikation, kritisk tænkning, kollaboration, kreati-
vitet, koncentration, kuriositet og karakterdannelse. I den digitale tidsalder kommer de nemt under
pres, og det skal vi forhindre
• Vi skal være opmærksomme på, at når den digitale opmærksomhedsøkonomi trækker på menne-
skets mentale ressourcer, kan det føre til nedgradering og tingsliggørelse af mennesket, fx tab af
privatliv, koncentrationsevne og fri vilje
12
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0013.png
Kunstig intelligens og højere uddannelse
Hvor Google, Wikipedia, biblioteker og leksika muliggør universel adgang til viden, så automatiserer kunstig
intelligens kernen af det, som er de højere uddannelsers selvbillede, mener professor i datalogi, viceinstitutleder
for undervisning ved IT-Universitetet i København og forsker ved forskningscenteret Basic Algorithms Research
Copenhagen (BARC), Thore Husfeldt.
I 1990’erne kom internettet, og mange har en fore-
stilling om, at vi nu ved meget mere, end vi gjorde
dengang. Men spørgsmålet er, om det er sandt, eller
om sandheden er, at vi blot har fået en mere lemfæl-
dig omgang med indhentningen af kundskab: ”Det
kan man da bare google.” Viden har fået lav status,
mens det at mene noget har fået høj status. Det er
paradoksalt, for samtidigt er det i stigende grad blevet
vanskeligt at navigere i den overflod af information,
der er tilgængelig på internettet uden baggrundsviden.
Alt det vidste vi ikke i 1990’erne, men det gør vi i dag.
Og nu skal der så træffes (nye) vigtige beslutninger om
brugen af kunstig intelligens, der kan automatisere
egenskaber, refleksion og syntese. Det grundlæggende
valg står mellem, om vi som art vil vide mere, eller om
vi vil overlade refleksion og analyse til ChatGPT, siger
Thore Husfeldt. Og valget vil få betydning for kvali-
fikationerne for fremtidige kandidater fra de højere
læreanstalter.
Det vi ser nu, er, at sprogmodeller som fx GPT både
formår at indhente, sammenfatte og præsentere en
syntese af viden, ligesom den kunstige intelligens
opfylder uddannelsernes krav til uklanderlig fremstil-
ling, konformitet, refleksion, analyse, kreativitet og
vid. Præcis de egenskaber, der hidtil har været kernen
for store dele af de højere uddannelsers selvbillede. Så
spørgsmålet for uddannelsesinstitutionerne er både,
hvad vi kan gøre, hvad vi bør gøre, og hvad vi kommer
til at gøre i forhold til kunstig intelligens.
For at træffe meningsfulde valg må vi kigge på målet
med højere uddannelse. Højere uddannelse er baseret
på en række meget forskellige grundideer:
1. Den første og centrale idé handler om oplysning. Uddannelse er et resultat af oplysningstiden og et
dannelsesprojekt. Mennesket er født uperfekt og skal derfor dannes til at blive noget bedre
2. Oplysningsidealet står i kontrast til et økonomisk perspektiv, hvor den højere uddannelse ikke er noget,
man som studerende gør for sig selv, men derimod for at erhverve sig nogle egenskaber og færdigheder,
som kan være nødvendige for andre. Uddannelse bliver set som en del af samfundsøkonomien
3. Det tredje perspektiv vedrører status, hvor det handler om at hjælpe de studerende til at danne
indflydelsesrige netværk: “Du skal ikke finde dig en velstående partner og gifte dig for pengene, du
skal omgive dig med velstående mennesker og gifte dig af kærlighed”
4. Højere uddannelse kan også forstås som en del af oplevelsesøkonomien, hvor universitet bliver et
selvrealiseringsprojekt
5. Og endelig er der det instrumentelle perspektiv, som handler om politik. Uddannelse bliver her et
værktøj til at opnå noget politisk væsentligt, fx udflytning af arbejdspladser fra storbyerne
eksisterer samtidig, siger Thore Husfeldt og minder om, at når vi i uddannelsessystemet står midt i en større
forandringsproces på grund af ChatGPT og kunstig intelligens, er det vigtigt at huske på, at alle disse grundlæg-
gende forestillinger om opgaven for de højere uddannelser eksisterer og er lige valide.
13
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0014.png
Det vi ser nu, er, at sprogmodeller som fx GPT både
formår at indhente, sammenfatte og præsentere en syntese
af viden, ligesom den kunstige intelligens opfylder uddannel-
sernes krav til uklanderlig fremstilling, konformitet, refleksion,
analyse, kreativitet og vid.
Så hvordan bliver vi klogere på, hvordan vi tilret-
ter uddannelsessystemet til den nye teknologiske
virkelighed, og her er det første spørgsmål, om vi
efter udviklingen af kunstig intelligens overhovedet
har brug for de dygtige og veluddannede kandidater?
Thore Husfeldt er ikke i tvivl. Svaret er naturligvis ja,
men både bedømmelses- og læringsmål vil komme
under pres. I dag er bedømmelser udelukkende
output-baserede. Resultaterne er ofte genereret uden
tilsyn og uden kontrollerede forhold, og det giver ikke
længere et gyldigt bedømmelsesgrundlag, hvis det er
færdigheder, de studerende skal testes i. For nu kan de
studerende nå frem til samme resultat med ChatGPT.
Før november 2022 skulle en elev bruge både tid, intel-
ligens og sociale kompetencer for at skrive et 30-siders
essay. Efter november 2022 kan eleven med ChatGPT,
levere det ønskede resultat på få sekunder. Konse-
kvensen er, at den traditionelle bedømmelsestradition
nu ikke længere er holdbar.
Og selvfølgelig skal universiteterne kigge ud på
arbejdsmarkedet. I en meget nær fremtid bliver det
svært i snart sagt enhver stilling at undgå at bruge
generativ kunstig intelligens. Snart lancerer Microsoft
deres nye Teams-pakke, hvor sprogmodellerne er
indbygget. Det er smart, og kontormedarbejderen
vil formentlig blive meget mere effektiv. Men med
den øgede brug af kunstig intelligens risikerer nogle
medarbejdere også at blive overflødige, fordi de ikke
længere har de rette egenskaber og kompetencer.
Thore Husfeldt er sikker på, at kunstig intelligens
vil være en styrkefordobler på arbejdsmarkedet. Et
konkret eksempel: I et softwarefirma har man hidtil
haft meget dygtige programmører og nogle mindre
dygtige programmører. Alle har indtil nu været væsent-
lige for organisationen. Men med kunstig intelligens
på arbejdspladsen bliver en dygtig programmør, der er
støttet af fx GitHub Copilot, som automatiserer grund-
læggende programmering ved hjælp af AI, meget mere
produktiv. Mens en mindre dygtig programmør, der
bliver støttet af samme teknologi, aldrig bliver bedre
end GitHub Copilot.
De nye teknologier vil på sigt gøre de bedste endnu
bedre inden for deres felt, mens den vil overflødiggøre
de mindre dygtige.
For universiteterne bliver det derfor helt afgørende at
producere dygtige kandidater, der besidder de særlige
færdigheder og egenskaber, der ikke risikerer at blive
udkonkurreret af den nye teknologi. Og uddannelses-
institutionerne står derfor over for vigtige valg, der vil
få stor betydning for de ressourcer, som de studerende
kommer ud i samfundet med.
Vi kommer til at se uddannelsesinstitutioner, traditio-
ner, discipliner, fakulteter og gymnasier, som kommer
til at stille højere krav til viden, kunnen, forståelse og
analyse. Men der vil også være nogle, der bliver fristet af
udfaldsligheden og tilgængeligheden ved chatrobotter.
Thore Husfeldts anbefalinger
• Uddannelsessystemet skal stille stringente krav til viden, kunnen, forståelse og analyse
• Bedømmelsesgrundlag skal være gyldige (den lærende skal vurderes, ikke den lærendes samtalerobot)
og holdbare (materialet skal være væsentligt mindre ressourcekrævende at bedømme end at producere)
14
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0015.png
Viden er ikke et meme
At blive lærd indenfor et hvilket som helst fag kræver viden og færdighed. Viden handler om at besidde faktuel infor-
mation, teoretisk struktur og begreber, mens færdighed baserer sig på evnen til at anvende den pågældende viden
i alle mulige situationer. ChatGPT kan ikke konkurrere med os, når det kommer til færdigheder, siger professor
Vincent Hendricks, Københavns Universitet.
Ifølge den klassiske græske historieskriver og geograf
Herodot er viden to ting: Viden er teori (strukturforstå-
else og teoridannelse) og færdighed. Disse to kan ikke
adskilles, lige så lidt som en dygtig tømrer kan adskille
viden om en tagkonstruktion fra det at konstruere selve
taget med de relevante redskaber. ChatGPT får rigtig
svært ved at konkurrere med os, når viden både er teori
og færdighed – i hvert fald når det kommer til det sidste.
Som underviser er den største opgave at vise de
studerende, at der er forskel på høvl, hammer og sav.
Forudsætningen for, at de ved, hvilket værktøj de skal
bruge til et specifikt problem, er, at de er villige til at
acceptere præmissen om, at viden har denne dobbelt-
kompetence i sig. Viden oparbejder nogle færdigheder,
hvor man ved, hvilken værktøjskasse der er til rådighed,
ligegyldigt hvilket problem man står over for. Viden er
altså ikke noget, du blot kan læse dig til i en lærebog, se
en video om på YouTube eller formulere som et meme.
Hele pointen er, at du skal lave opgaverne og oparbejde
en færdighed.
Tilbage i 1971 sagde nobelpristageren i økonomi, Her-
bert Simon, at ” … i en informationsrig verden betyder
rigdommen af information knapheden af noget andet:
En knaphed af hvad det end er information forbru-
ger”, og for Vincent Hendricks er det oplagt, hvad
information forbruger: Den forbruger modtagernes
opmærksomhed.
I informationstidsalderen er folks opmærksomhed et
kapitalaktiv. I opmærksomhedsøkonomien tager tech-
virksomhederne din opmærksomhed og dine data, og
sælger dem videre til den højstbydende annoncør. Alle
sociale medieplatforme lever af den forretningsmodel,
der er baseret på annoncekroner. Det betyder i sidste
instans, at der er et marked for rigtig dårlig information,
som til gengæld har den egenskab, at den kan påkalde
sig rigtig meget opmærksomhed. Der er et stort udbud
og meget information, men der er stadig én meget
begrænset ressource: opmærksomhed. Det betyder, at
der bliver kamp om opmærksomheden. Og når der er
kamp om opmærksomhed, risikerer viden at blive til
et meme. Jo hurtigere man kan få det ned, jo hurtigere
forstår man det, og jo mindre opmærksomhed skal man
give det.
Opmærksomhedsøkonomien stimulerer ikke viden.
Techvirksomhederne er ligeglade med det. Mark
Zuckerberg har for eksempel sagt “Jeg mener ikke, at
Facebook eller andre internetplatforme generelt bør
være sandhedsdommere.” og “… sikring af demokrati-
et er over vores lønniveau.”. Men det er de. Det er dem,
der bestemmer, hvad der kommer op i feedet, hvad vi
får lov at se og høre. Det er deres algoritmer, der styrer
det. Deres incitament er økonomisk, og målet er ikke
demokratisk dannelse.
Forretningsmodel for
techplatforme
Engagment
Opmærksomhedsallokering
ved informationsforbrug
Trafik
Datahøst
Datakuratering
(Big data-analyse)
Data-salg eller -udlejning
til annoncørerne
Model, der viser techvirksomhedernes forretningsmodel
15
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0016.png
Hvad end man kaster sig over, så er 10 % talent
og resten er hårdt arbejde. Det kan sagtens være, at
ChatGPT kan erstatte de 10 % talent, men de resterende
90 % er hårdt arbejde for den, der bruger robotten og
samtidig insisterer på også at erhverve sig færdigheder
ved samme lejlighed.
Hvad end man kaster sig over, så er 10 % talent og
resten er hårdt arbejde. Det kan sagtens være, at Chat-
GPT kan erstatte de 10 % talent, men de resterende
90 % er hårdt arbejde for den, der bruger robotten og
samtidig insisterer på også at erhverve sig færdigheder
ved samme lejlighed.
At tilegne sig en færdighed kræver tid. I undervisnin-
gen i logik ved den filosofiske grunduddannelse på
Københavns Universitet, er der ingen PowerPoint-
præsentationer eller ChatGPT’er. Der er kridt og tavle
og papir og blyant. Der skal introduceres syntaks og
semantik for logisk sprog, formuleres slutningsregler,
laves beviser og demonstrationer. De studerende skal i
gang med at oparbejde en færdighed. Når vi begynder
at forstå, indenfor hvilke rammer vi ræsonnerer, så er
der en frihed og et udviklingspotentiale – og det er vel
egentlig det, vi som undervisere er sat i verden for at
lære de studerende.
Effektiv informationstilegnelse og arbejdsmarkedspa-
rathed er ikke at forveksle med encyklopædisk viden
kombineret med flyvefærdige færdigheder. Det er
viden som det sidste, vi skal leve af fremover – ikke det
første. Det er væsentligt at huske på, nu hvor man står
over for at beskære universitetsuddannelserne i både
tid og indhold.
Vincent Hendricks’ anbefalinger
• Viden består af både teori og færdigheder. ChatGPT kan konkurrere med os på teoriplanet men ikke i
forbindelse med færdigheder. Derfor er viden som færdighed det, vi skal leve af i fremtiden
• Færdighedsoparbejdelse kræver hårdt arbejde og tid, så derfor er det dumt at skære i både tid og
indhold på landets universitetsuddannelser
16
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0017.png
Adgangen til troværdig viden er en del af den
demokratiske infrastruktur
Med mere end 230.000 artikler skrevet på dansk, med et dansk perspektiv og af danske forskere sikrer Danmarks
nationalleksikon, lex.dk, at alle kan få fri og uhindret adgang til troværdig information, sagde Erik Henz Kjeldsen,
ansvarshavende chefredaktør for Danmarks nationalleksikon, lex.dk, på konferencen.
I en nær fremtid vil AI-systemerne bag ChatGPT effek-
tivt gennemsøge alle relevante og irrelevante webste-
der, tekster, videoplatforme og podcasts, og vi vil som
studerende og borgere kunne få ”måske korrekte” svar
på et hvilket som helst spørgsmål, vi måtte stille på
Google. Personaliserede svar direkte ned i lommen.
Og sådan er det næsten allerede i dag, fortæller
Erik Henz Kjeldsen, for sandheden er, at når vi søger
information i dag, starter og slutter vores besøg på
internettet meget ofte på Google. Den tid, hvor Google
var en portal – indgangen til adskillige websteder,
en søgemaskine – er forbi. I dag bliver flere end 70 %
af alle de søgninger, der bliver foretaget på Google,
besvaret på Googles egen søgeside. Google er på vej til
at blive internettets one-stop-shop.
Google har købt, fået og skrabet indhold sammen fra
mio. af sites, også lex.dk – med og mest uden tilladel-
se. I en skrækvision for fremtiden bliver det kun værre
med ChatGPT. Her vil svaret, vi får på internettet, bygge
på indhold, som vi ikke aner, hvor kommer fra; som vi
ikke kender afsenderen på; som vi ikke ved, hvorfor er
skrevet; til hvem; og i hvilken kontekst.
Det er ikke svært at forestille sig et sådant skræk-
scenarie: Forestil dig, at du søger viden om virkning og
bivirkninger ved et medicinsk præparat. Det gør en stor
forskel om svaret, du får, er nyt eller gammelt, dansk el-
ler kinesisk. Om det er skrevet af en uafhængig forsker,
et medicinalfirma eller en patientforening. Vi skal kende
og have mulighed for at vurdere kilderne. Det er en af
de vigtigste byggesten for vores demokratiske samfund
– og ikke mindst for videnskaben og den måde, vi har
etableret viden på gennem de sidste århundreder.
Undervisningsinstitutioner, formidlere, indholds-
producenter og opslagsværker har til opgave at
stille troværdig viden til rådighed for samfundet og
demokratiet. Der er ikke på forhånd grund til at være
maskinstormere. Måske vil AI og alle de nye mulighe-
der bidrage til en øget viden og en demokratisering af
viden, ligesom internettet i det hele taget. Måske vil
den nye teknologi give os et nyt fokus på læring gen-
nem dialog. Og som undervisningsform kan den være
med til at skabe personlige interaktive læringsforløb.
Alt det er godt.
Allerede nu mærker vi nødvendigheden af at gentænke
uddannelserne og fødekæden for viden og information. Og
at vi som fællesskab og samfund bliver nødt til at formulere
de første svar på forandringerne. Vi kan ikke lade teknolo-
gien og techvirksomhederne forme fremtiden alene. Det
må vi gøre sammen.
17
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0018.png
Men vi ved ikke, om det er det, der kommer til at ske.
Allerede nu mærker vi nødvendigheden af at gentænke
uddannelserne og fødekæden for viden og information.
Og at vi som fællesskab og samfund bliver nødt til
at formulere de første svar på forandringerne. Vi kan
ikke lade teknologien og techvirksomhederne forme
fremtiden alene. Det må vi gøre sammen.
Der er meget, vi ikke har indflydelse på, men der er
også meget, vi kan gøre. Forlag, forskningsinstitutio-
ner og politikere på Christiansborg har allerede skabt
Danmarks nationalleksikon, lex.dk, Danmarks største
site for forskningsformidling. Et stykke demokratisk
infrastruktur, der flittigt bruges af studerende og bor-
gere. Hver måned har lex.dk flere end to mio. besøg.
Med mere end 230.000 artikler, som er skrevet af
danske forskere på dansk og med et dansk perspektiv.
Snart har vi tusind forskere om bord, som skal sikre, at
artiklerne er opdaterede og korrekte.
Selvom vi har fake news, trolde og misinformation, er
det først nu med ChatGPT, at vi til fulde forstår, hvor
afgørende troværdig viden er for demokratiet. Vi skal
have steder, hvor vi kan være sikre på, at vi kan finde
korrekt og troværdig information.
Techgiganternes forretningsmodel er ikke at gøre os
klogere eller sikre os adgang til troværdig information.
De lever derimod af at høste og videresælge vores
data, vores inderste ønsker og frygt og vores købsin-
tentioner. Vores opgave bliver at sikre, at der fortsat
produceres og formidles viden om alt det, der er
vigtigt, på dansk og med dansk udgangspunkt.
Erik Henz Kjeldsens anbefalinger
• Vi skal sikre, at alle kan få fri og uhindret adgang til troværdig information
• Vi skal sikre, at der fortsat produceres og formidles viden om alt det, der er vigtigt. Formidlingen skal
også være på dansk og med dansk udgangspunkt samt skrevet af en kvalificeret fagperson
18
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0019.png
Hvad er det lovgivningsmæssige perspektiv
på AI – nationalt og europæisk?
Vi er på vej ind i en fremtid, hvor det er de helt store techspillere, der kontrollerer markedet for kunstig intelli-
gens. Allerede i dag har Google og Microsoft sat sig på store dele af værdikæden. Et af de største problemer er,
at vi ikke har nogen love, der forhindrer techvirksomheder i både at generere og distribuere indhold fortalte
Thomas Höppner, advokat og partner ved Hausfeld Rechtsanwälte.
I marts 2023 udtalte OpenAI’s CEO, Sam Altman, at AI
kommer til at eliminere mange eksisterende jobs. Til
gengæld mener han også, at vi er i stand til at skabe
meget bedre jobs med AI. Men hvilke jobs - og for hvem?
Et skrækeksempel på et af fremtidens ”bedre jobs”
er AI-journalisten. Et godt eksempel på dette er den
nye service, der hedder Generative Press. Den afsøger
automatisk internettet for nyheder og genererer i realtid
sine egne AI-nyheder, som er et sammenkog af det
relevante indhold, den finder frem til. I processen er
der ingen redaktører, ingen journalister, kun AI. AI’en
opfinder journalister, som skriver historier fra hver deres
perspektiv. En af AI-journalisterne er for eksempel den
13-årige Jake, der skriver om krigen i Ukraine. Læser
man Jakes artikler, kan man fx læse, at han refererer til
”vores CNN-team”, som indikerer, at CNN står bag nyhe-
den. Det gør de bare ikke. Fejlen skyldes, at AI-artiklen
delvist genereres med en simpel copy paste-løsning.
AI’en har blot taget en original artikel fra CNN og i realtid
eksporteret den over i den maskingenererede artikel,
som vores AI-journalist Jake står som afsender af.
For Thomas Höppner kommer den afgørende kamp til
at handle om, hvem der kontrollerer værdikæden. Og
som det er nu, kræver grundmodellerne og dataindsam-
lingen for kunstig intelligens enorm stor computerinfra-
struktur. Her er det kun de helt store techvirksomheder
som Microsoft, Google, Amazon og Baidu, der kan være
med. Konsekvensen er, at den helt grundlæggende
infrastruktur er i hænderne på meget få selskaber, som
har alle de kommercielle fordele.
GPT er primært etableret på grundlag af indhold fra
Wikipedia og verdens onlinemedier.
Listen over de informationskilder, som træner GPT. Nyhedsmedier er markeret med gul.
OpenAI’s egne studier siger, at sprogmodellen generere komme med troværdig information baseret på
dets træningsmateriale.
19
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0020.png
Og sandt er det, at GPT4 kan generere plausibelt, realistisk og målrettet indhold, herunder nyheder, artikler, tweets,
dialoger og e-mails, og det viser sig, at folk har meget svært ved at skelne mellem tekst skrevet af AI og tekst skrevet
af mennesker. Studier underbygger, at AI-genererede tekster er mindst lige så overbevisende som menneskelige
tekster. Det betyder, at AI i dag er så godt, at systemerne kan skrive troværdige artikler, som læseren tror, er skrevet
af et menneske.
Problemet med AI-nyhederne er, at der aldrig bliver refereret eller linket til artiklens kilder. Det er ren AI, og som
læser må man blot tro på, hvad den siger. Faktisk skal man ifølge AI’s egen markedsføring tro mere på AI end på
menneskelige journalister, da man med AI-artikler undgår menneskelige fejl, biases og fake news.
AI’s nyhedssite og et eksempel på en følgebesked ved deling af indhold: ”I love AI news!! All real! No more fake news …”
Det har aldrig været meningen, at disse AI-systemer skulle bruges til at generere information. I OpenAI’s oprindelige
liste over risici ved kunstig intelligens var halvdelen relateret til information: hallucinationer, disinformation og over-
dreven tillid. Her kunne man læse at ”... der er en tendens til, at den opfinder fakta, fordobler ukorrekt information og
udfører opgaver forkert. Samtidig virker den mere overbevisende end tidligere GPT-modeller. Du kan således blive
snydt til at tro, at den er bedre.”
I virkelighedens verden kunne man argumentere for, at den kun bliver dårligere, når den bliver stadig mere overbe-
visende. For folk bruger ofte GPT’en til emner, hvor de ikke selv er eksperter, og når den så virker særligt autoritativ,
kan brugerne risikere at få en overdreven tillid til den.
For et par uger siden skrev Microsoft, at AI-systemerne kan
blive misbrugt til at generere desinformation og cyberangreb.
Listen over misbrugs- og manipulationsmuligheder var lang,
og ”ekstrem forsigtighed” var påkrævet, hvis man ville over-
veje at bruge systemet til journalistik.
20
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0021.png
For et par uger siden skrev Microsoft, at systemerne kan blive misbrugt til at generere desinformation og cyberan-
greb. Listen over misbrugs- og manipulationsmuligheder var lang, og ”ekstrem forsigtighed” var påkrævet, hvis man
ville overveje at bruge systemet til journalistik.
Både OpenAI og Microsoft advarer mod skyggesiderne ved AI.
I marts 2023 skrev The Federal Trade Commission om de nye muligheder for bedragere:
“They can use chatbots to generate spear-phishing emails, fake websites, fake posts, fake profiles, and fake
consumer reviews, or to help create malware, ransomware, and prompt injection attacks … harm to children,
teens, and other populations at risk.”
Alt i alt er der mange advarselslamper, der blinker. Folk har bare stadig svært ved at tro, at der er nogen, der vil
misinformere dem. Men som Googles tidligere CEO, Eric Schmidt, har påpeget, er forretningsmodellen for kunstig
intelligens baseret på opmærksomhed.
Den bedste måde at få brugernes opmærksomhed på er at gøre dem så forargede, at aktiviteten og engagementet
på platformen stiger. Der kan således blive produceret falsk information med det eneste formål at irritere brugerne
og dermed øge deres tid på platformen.
Kan vi bekæmpe fake news med real news? Det korte svar er, at det kan vi ikke så længe, at det er de samme
virksomheder, som både laver deres egne nyheder og distribuerer dem. Nedenstående graf viser, at de traditionelle
nyhedsmedier allerede nu får mindre og mindre synlighed i søgeresultater. I fremtiden vil vi kun se flere AI-generere-
de nyheder, og ingen kan stole på noget af det, de læser.
For at undgå disse farer er der brug for en gennemgribende regulering af AI. Hvordan skal det så ske? Ved en grundig
reform og opdatering af følgende initiativer: EU’s ”AI Act”, ophavsretten (tekst og datahøst), Media Freedom Act og
EU’s Digital Markets Act og Digital Services Act (adskillelse af produktion og distribution af indhold).
Traditionelle nyhedsmedier får mindre og mindre synlighed i Googles søgeresultater.
Thomas Höppners anbefalinger
• Regulering af generativ kunstig intelligens er nødvendigt. AI Act og ophavsretslovgivningen skal reformeres
og opdateres. Vi har brug for en ny Media Freedom Act, som virkelig har fortjent sit navn, og endelig skal
der være en klar juridisk adskillelse af dem, der producerer indhold, og dem, der distribuerer indhold
21
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0022.png
22
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0023.png
23
UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT
2706936_0024.png
24