UFU, Alm.del - 2023-24 - Bilag 12: Danmarks Forsknings- og Innovationspolitiske Råd

Uddannelses- og Forskningsudvalget 2023-24
UFU Alm.del Bilag 12
Offentligt

NR. 41

27-10-2023

Kunstig intelligens i forskning og

innovation

Kunstig intelligens har potentialet til at revolutio-

nere den måde vi bedriver forskning og innovation

på. Det kan forøge kvaliteten, omfanget og relevan-

sen af vores investeringer i forskning og innovation.

Men teknologien kan også ændre rammerne for

forskning og innovation radikalt. De ændringer in-

debærer risici og faldgruber. Danmark skal derfor

sikre, at de danske forsknings- og innovationsmil-

jøer griber de nye muligheder, men samtidig navige-

rer gennem etiske og sikkerhedsmæssige overvejel-

ser.

I 2023/24 inviterer Danmarks Forsknings- og Innovati-

onspolitiske Råd til en debatrække om potentialer og ri-

sici ved kunstig intelligens for det danske forsknings- og

innovationsøkosystem. Debatrækken afholdes i samar-

bejde med Digitaliseringsministeriet, Pionercenteret for

kunstig intelligens og Fondenes Videncenter.

Hvorfor mere debat om kunstig intelligens?

Perspektiverne for kunstig intelligens er fascinerende og

til tider bekymrende. Det er derfor en teknologi, der er

på manges læber, og den bliver ivrigt diskuteret om-

kring frokostborde og i diverse ekspertgrupper. DFiR

følger diskussionerne i blandt andet Digitaliseringsrådet,

ADD - Algoritmer, Data og Demokrati, Dataetisk Råd og

ATV’s Digitale Vismandsråd samt i OECD og Europa-

Kommissionen. I alle disse fora ydes værdifulde bidrag

til debatten.

På trods af det gode arbejde, der allerede er i gang, vur-

derer DFiR og samarbejdspartnerne, at der fortsat er be-

hov for at diskutere de strukturelle udfordringer og po-

tentialer for dansk forskning og innovation. Forsknings-

og innovationssystemet er særligt vigtigt når det kom-

mer til kunstig intelligens. Det er entreprenører og for-

skere, der skubber rammerne for hvad kunstig intelli-

gens er, og kan, og som gør sig de første erfaringer

med blinde vinkler og risici i anvendelse af kunstig intel-

ligens. Kina og USA har investeret massivt i den strategi-

ske opbygning af miljøer inden for kunstig intelligens

og resultaterne heraf er tydelige. I Danmark er der også

foretaget enkelte større investeringer, og en række uni-

versiteter har udviklet uddannelser inden for området.

Det er afgørende for Danmarks sikkerhed og konkurren-

ceevne, at vi har miljøer, der kan drive og forstå udvik-

lingen af kunstig intelligens.

OECD vurderer, at anvendelsen af kunstig intelligens in-

den for forskning og udvikling, kan blive den mest øko-

nomisk og socialt værdifulde af alle anvendelser af kun-

stig intelligens.

Det store potentiale skyldes, at man i

forskningen anvender metoder, der baserer sig på ind-

samling, kategorisering, analyse og fortolkning af store

mængder data. Det giver enestående forudsætninger

for at effektivisere forsknings- og innovationsproces-

serne gennem anvendelse af kunstig intelligens. Forsk-

ning og innovation er udset til at spille en nøglerolle i

udviklingen af løsninger på de store globale samfunds-

udfordringer som klimaforandringer og -tilpasninger,

sikkerhed og sundhed. Kunstig intelligens har potentiale

til at accelerere forsknings- og innovationsmiljøernes

processer og gøre dem i stand til at levere løsningerne,

men det må gøres med omtanke.

Det er med dette bagtæppe, at DFiR og samarbejds-

partnere inviterer til debat om kunstig intelligens.

Det danske økosystem

–

balancer og barrierer

Den første debat fokuserer mere på teknologiens po-

tentialer end på dens risici. Her vil der blive spurgt til

balancer og barrierer i det danske økosystem. I

DFiR’s

optik består et sundt økosystem for kunstig intelligens

til forskning og innovation af kompetencer og kapacitet

inden for fire søjler:

•

Data (f.eks. offentlige data i datavejviser.dk)

Kompetencer (f.eks. dataloger, der kan udvikle

algoritmer baseret på data samt jurister og eti-

kere, der kan sikre en forsvarlig tilgang)

Infrastruktur (f.eks. DeiC og private udbydere af

computerinfrastruktur, der kan regne på algo-

ritmerne)

Anvendelse (f.eks. forskere eller entreprenører

med indsigt i relevante problemstillinger inden

for f.eks. sundhed eller klima, men også privat-

livsbeskyttelse samt juridiske og samfunds-

mæssige konsekvenser af kunstig intelligens)

•

Artificial Intelligence in Science: Challenges, Opportu-

nities and the Future of Research | OECD iLibrary

(oecd-ilibrary.org)

UFU, Alm.del - 2023-24 - Bilag 12: Danmarks Forsknings- og Innovationspolitiske Råd - Brief #41 og #42

Den første debat sætter fokus på balancerne mellem de

fire søjler. Det er afgørende, at der er tilstrækkelig kapa-

citet inden for hver søjle foruden processer, der forbin-

der dem.

Et centralt spørgsmål er, om vi investerer rigtigt, og om

der er balance i vores investeringer på tværs af søjler?

Bør vi investere yderligere i computerkraft eller er mid-

lerne bedre givet ud ved at investere i forskningsprojek-

ter, der kan finansiere flere ph.d.-studerende inden for

datalogi? Er der specifikke barrierer inden for de enkelte

søjler, og kan de adresseres gennem politiske initiativer

eller regulering? Et andet spørgsmål relaterer sig til ba-

lancen mellem de forskningsområder, hvor kunstig in-

telligens finder anvendelse. Er der større potentialer in-

den for nogle forskningsområder end andre, og er der

områder, som overses i det nuværende finansierings-

landskab? Desuden vil der blive spurgt til private aktø-

rers adgang til økosystemet. Understøtter vi i tilstrække-

ligt omfang et privat marked, der anvender forskning in-

den for kunstig intelligens? Vi udnytter ikke potentialet,

hvis der kun er tilfredsstillende adgang for offentligt fi-

nansierede forskningsmiljøer.

Hvad med risici

–

fra plagiat til geopolitik

I den anden debat stiller vi skarpt på de risici og fald-

gruber, som tegner sig ved øget anvendelse af kunstig

intelligens i dansk forskning og innovation. Det handler

om konkrete udfordringer fra hverdagen i laboratorier

og forskningsbiblioteker, hvor store sprogmodeller som

ChatGPT har gjort det lettere at fabrikere falske referen-

cer og plagiere andres arbejde. I debatten vil vi spørge

til hvordan de nye udfordringer skal håndteres. Er det

op til hver enkelt institution at udvikle retningslinjer eller

er der behov for nationale eller europæiske initiativer?

Debatten vil også invitere til mere grundlæggende eti-

ske overvejelser om konsekvenserne ved anvendelse og

udbredelse af den brede kunstige intelligens i forskning

og innovation. Hvor er de etiske faldgruber? En central

diskussion vedrører hvilke bias og skævheder, der re-

produceres i anvendelsen af kunstig intelligens. Der vil

også blive spurgt til hvilke fora, der kan og bør påtage

sig opgaven med udviklingen af samtalen om de etiske

problemstillinger. Endelig bliver anvendelsen af kunstig

intelligens også diskuteret i en sikkerhedspolitisk kon-

tekst. Hvor er balancen mellem en etisk forsvarlig til-

gang og risikoen for at tabe kapløbet til Kina og USA?

Og hvor skal Danmark ligge?

Rammerne for forskning

Den tredje debat handler om rammerne for forskning

og innovation, og spørger hvorvidt fremkomsten af kun-

stig intelligens giver anledning til at genoverveje organi-

seringen af forsknings- og innovationssystemet.

I det eksisterende system bruger forskerne mange res-

sourcer på at bedømme og vurdere hinanden. Det gæl-

der i forbindelse med bevillings- og publiceringsproces-

ser. Der er tale om et system, der er udviklet i en tid,

hvor der var langt mindre forskning, og hvor enkelte

forskere kunne forventes at have overblik over en meget

bredere forskningsfront. Det er ikke realiteten i dag,

hvor de færreste har dyb indsigt på tværs af områder.

Det nuværende system er omkostningstungt, og de

mange afslag på bevillinger fremhæves som en stor ud-

fordring for udvikling og fastholdelse af medarbejdere

på de offentlige forskningsinstitutioner. Det relaterer sig

endvidere til diskussionen om, hvorvidt det nuværende

system er retfærdigt og leder til promovering af de bed-

ste ideer. I innovationsindsatsen bruger virksomhederne

også meget tid på at søge midler i gennem systemer,

der fungerer med relativt lange sagsbehandlingstider.

Det er en hæmsko for et velfungerende innovations-

fremmesystem.

I debatten inviteres til en drøftelse af hvorvidt kunstig

intelligens kan bruges i den fremtidige udvikling af ram-

merne for forskningsaktiviteter. Her tænkes dels på be-

dømmelser og publikationsmønstre, dels på ansøg-

nings- og bevillingsstrukturer. Kan kunstig intelligens

ændre vores meriterings- og ressourceallokeringstraditi-

oner ved f.eks. at udvikle alternativer til ineffektive an-

søgningsprocesser? Der vil dermed blive stillet skarpt på

de udfordringer og muligheder som møder fonde, insti-

tutioner og forlag.

Deltag i debatten

Dansk forsknings- og innovationspolitik skal forholde

sig til øget anvendelse af kunstig intelligens. Det er op-

lagt, at det vil medføre ændringer, og det er i DFiR’s op-

tik vigtigt, at der følger en offentlig debat, der kan

hjælpe med at afklare hvilke forandringer, der vil være

aktuelle i 2025 og hvilke, der først slår igennem i 2050.

DFiR vil på baggrund af de tre debatter samle op og le-

vere indspil til regeringen og Folketing.

Læs mere om debatrækken og tilmeld dig de enkelte

sessioner

her.

Yderligere oplysninger:

Frede Blaabjerg, Formand for DFiR

Telefon: 21292454

E-mail:

[email protected]