UFU, Alm.del - 2024-25 - Bilag 42: Danmarks Forsknings- og Innovationspolitiske Råd - Brief #51

Uddannelses- og Forskningsudvalget 2024-25
UFU Alm.del Bilag 42
Offentligt

NR. 51

03-12-2024

GenAI: fortsat uudnyttet dansk potentiale

Generativ kunstig intelligens (genAI) har stået centralt i

den danske forsknings- og innovationspolitiske debat

det seneste år, blandt andet som hovedtema på Uddan-

nelses- og Forskningsministerens topmøde i april, 2024.

En ny rapport, som Center for Forskningsanalyse har lavet

for DFIR, belyser potentialer og risici ved anvendelse af

genAI i forskellige faser af forskningsprocessen og viser,

hvordan forskere ved danske universiteter forholdte sig

til og anvendte genAI i første halvdel af 2024. DFIR kon-

kluderer, at der er stort potentiale for øget anvendelse af

genAI blandt forskere i Danmark og inviterer i samar-

bejde med DIREC til debat om anvendelse af genAI i

dansk forskning den 29. januar, 2025.

I forlængelse af DFIR’s debatrække i 2023 og 2024 om kun-

stig intelligens har Dansk Center for Forskningsanalyse, AU,

på opdrag fra DFIR, i en ny rapport

belyst anvendelsen af

genAI i forskningsprocessens fem faser, nemlig idegenere-

ring, forskningsdesign, dataindsamling, dataanalyse og

formidling. Rapporten er baseret på en omfattende littera-

turgennemgang, ekspertsamtaler og en spørgeskemaun-

dersøgelse med forskere ved de danske universiteter.

Idé-

generering

Dataindsamling.

GenAI kan automatisere opgaver inden

for visse former for informationssøgning og dataaugmen-

tation. Der er også eksempler på anvendelse af genAI til at

generere syntetiske data, der kan være nyttige i fx medi-

cinske studier, hvor der er begrænset tilgængelige data.

Datanalyse.

Der er særligt stort potentiale i forhold til an-

vendelse af genAI til dataanalyse. Der er modeller, der kan

udføre avancerede analyser af store mængder data, fx ana-

lyse af visse typer af menneskelig adfærd (fx fodgænger-

bevægelser), mental sundhed (fx risikofaktorer for selv-

mord) og rekonstruktion af kulturelle artefakter (fx design-

mønstre).

Formidling.

Endelig er der også potentiale for at genAI kan

understøtte forskere i deres sproglige formidling. Det gæl-

der både til fagfæller og til et bredere publikum.

Relevansen af disse værktøjer varierer betydeligt på tværs

af forskningsfelter og -metoder. For eksempel vil forsk-

ningsområder, der er afhængige af kvalitativ dataanalyse

opleve færre fordele i analysefasen.

Risici ved brug genAI

Der er derudover en række risici ved anvendelsen af genAI.

Det relaterer sig til overvejelser om fx forskningsintegritet

defineret ved transparens og ansvarlighed, foruden repro-

duktionen af bias, herunder de store sprogmodellers impli-

citte antagelser, underrepræsentation af udvalgte sam-

fundsgrupper, og fortolkning af data. Det kan også omfatte

risikoen for en indsnævring og manglende originalitet i nye

forskningsideer. Derudover knytter der sig en række etiske

overvejelser til databeskyttelse. Dertil kommer genAI-mo-

dellernes ressourceforbrug og afledte klimapåvirkning. Det

er risici, der skal belyses og håndteres i udviklingen af en

ansvarlig, transparent og menneskecentreret genAI. Det

arbejde pågår allerede i flere forskningsmiljøer, netværk og

private virksomheder, hvoraf flere deltog i DFIRs debat-

række om kunstig intelligens. Dertil kommer at en general

udbredelse og anvendelse af kunstig intelligens vil øge for-

skeres produktivitet, hvilket vil skabe et endnu større pres

på det nuværende system for fagfællebedømmelse i for-

bindelse med publikationer. En fremtid med udbredt an-

vendelse af genAI, vil sætte systemet yderligere under pres

og accelerere behovet for forandring.

Stort potentiale og høj forskningsintegritet

Rapporten belyser også forskernes anvendelse og opfat-

telse af genAI baseret på en spørgeskemaundersøgelse

sendt til næsten 30.000 forskere ved danske universiteter

med en svarprocent på 10,4 pct. Spørgeskemaet omfatter

Formidling

Forsknings-

design

Data-

analyse

Dataind-

samling

Potentiale ved genAI i alle faser af forskningsprocessen

Rapporten belyser potentialet ved brug af genAI igennem

alle forskningsprocessens faser med henvisning til kon-

krete cases og eksempler fra forskningslitteraturen:

Idégenerering & ansøgning.

GenAI kan accelerere idégene-

rering ved at analysere eksisterende litteratur, herunder

underbelyste spørgsmål.

Forskningsdesign.

GenAI kan assistere i design af eksperi-

menter ved at simulere forskellige scenarier og forudsige

resultater. For eksempel kan Coscientist designe, plan-

lægge og udføre komplekse kemiske eksperimenter base-

ret på enkle tekstinput fra brugerne.

UFU, Alm.del - 2024-25 - Bilag 42: Danmarks Forsknings- og Innovationspolitiske Råd - Brief #51 - GenAI

32 potentielle anvendelsesområder af genAI. Forskerne

blev spurgt til deres egen brug og deres forventninger til

deres kollegers brug af genAI, samt deres vurdering af hvil-

ken betydning genAI har for forskningsintegriteten.

Samlet set indikerer undersøgelsen, at genAI anvendes i

begrænset omfang ved de danske universiteter. Det er kun

inden for otte af de 32 anvendelsesområder, at mere end

25 pct. af forskerne anvender genAI. Det omfatter ofte

mere rutineprægede opgaver primært i begyndelsen og i

slutningen af forskningsprocessen, herunder litteratursøg-

ning, udkast og omformulering af mindre tekststykker,

men også til assistance til programmering og statistiske

analyser. Relativt få forskere anvender således genAI til den

analytiske del af forskningsprocessen, herunder til at iden-

tificere huller i litteraturen, udvikling af hypoteser, udvik-

ling af teori, forskningsdesign, eksperimenter, mønster-

genkendelse i data og tekst eller i reviewprocessen af kol-

legaers forskning.

Forskerne indskriver sig i tre grupper. Den mest skeptiske

gruppe omfatter 24 pct. af forskerne. De vurderer, at genAI

alene kan bruges som sprogassistent til formulering af

tekststykker. Forskere inden for humaniora, teoretisk na-

turvidenskab og kvalitativ samfundsvidenskab er overre-

præsenterede i den gruppe. En lidt mindre skeptisk gruppe

omfatter 35 pct. af forskerne og vurderer, at genAI kan an-

vendes til mønstergenkendelse og analyse foruden tekst-

behandling. Forskere i den gruppe er dog skeptiske over

for brug af genAI til udvikling af forskningsideer og udar-

bejdelse af fagfællebedømmelser. De resterende 41 pct. er

generelt positive overfor brugen af genAI, men er fortsat

skeptiske ved brugen af genAI til fx at generere syntetiske

datasæt og identificere forskningsprojektets etiske aspek-

ter. Forskere inden for de tekniske videnskaber og medicin

er overrepræsenterede i den gruppe.

Det er bemærkelsesværdigt at for næsten alle anvendel-

sesområderne, så var andelen af respondenter, der rappor-

terer en praksis som god, meget god eller fremragende i

forhold til forskningsintegriteten, højere end andelen, der

rapporterer at have brugt genAI på dette område. Det in-

dikerer, at der er potentiale for at øge anvendelse af kun-

stig intelligens blandt forskere i Danmark uden at gå på

kompromis med forskningsintegriteten. Det er også inte-

ressant, at respondenterne vurderer at deres kollegaer gør

betydeligt mere brug af værktøjer end dem selv.

Fra hype til handling: Hvad er de næste skridt?

DFIR vurderer at der er behov for at styrke anvendelsen af

genAI i dansk forskning inden for de områder, hvor det er

videnskabeligt relevant, for at forblive globalt konkurren-

cedygtige. På institutionsniveau er der behov for pragma-

tiske, kontekstuelle og åbne diskussioner om, hvordan

øget anvendelse af kunstig intelligens kan se ud og imple-

menteres i de lokale miljøer. Institutionerne må i første om-

gang afdække lokale barrierer. Ud over spørgsmålet om vi-

denskabelig relevans kan en barriere være usikkerhed om

de forskningsetiske og juridiske rammer eller manglende

inspiration til hvordan genAI kan anvendes. Manglende

kompetencer er en væsentlig barriere, hvor løsningen kan

være at indhente kompetencerne bredere end blandt for-

skere, fx blandt studerende, teknisk personale og eksterne

samarbejder. Det påhviler de lokale ledelser åbent at un-

dersøge og adressere de lokale barrierer.

I forlængelse af det brede potentiale, bør regering og Fol-

keting i udmøntningen af midler til kunstig intelligens pri-

oritere en bredere kreds af forskere fremfor yderligere styr-

kelse af frontforskningsmiljøer. Der er behov for en bred

opkvalificering i de danske forskningsmiljøer, så flere får

adgang til at anvende kunstig intelligens, der hvor det er

fagligt relevant. Anvendelse af genAI bør være hverdag for

en bredere gruppe af forskere.

Endelig vil det globale forskningssystem undergå foran-

dringer i de kommende år som følge af et intensiveret pres

og øget produktivitet blandt forskere. Diskussionerne om

fremtidens rammer for forskning bør være en prioritet for

Danmarks internationale engagement. Det er debatter som

foregår i mellemstatslige fora på europæisk og globalt plan

fx EU, OECD og UNESCO samt i mere uformelle fora i inter-

nationale, videnskabelige foreninger og selskaber.

Næste skridt for DFIR er et debatarrangement, der afholdes

i samarbejde med Digital Research Centre Denmark (DI-

REC) den 29. januar, 2025 i Aarhus. Her inviterer vi til debat

om genAI i dansk forskning. Tilmelding sker

her.

Yderligere oplysninger:

Frede Blaabjerg

Formand for DFIR

Telefon: 21 29 24 54

E-mail:

[email protected]

Mette Birkedal Bruun

Næstformand for DFIR

Telefon: 24 87 46 48

E-mail:

[email protected]

Noter

CFA. (2024).

Using Generative Artificial Intelligence (GenAI) across

different Research Phases

–

Cases, Potential and Risks

Andersen, J. P., Degn, L., Fishberg, R. et al. (2024).

Generative Artifi-

cial Intelligence (GenAI) in the research process

–

a survey of re-

searchers’ practices and perceptions