DIU, Alm.del - 2023-24 - Endeligt svar på spørgsmål 107: Spm. om retningslinjer og risikovurderinger for brug af kunstig intelligens m.v.

Udvalget for Digitalisering og It 2023-24
DIU Alm.del
Offentligt

Folketingets Udvalg for Digitalisering og It

Stormgade 2-6

1470 København K

Telefon 72 28 24 00

[email protected]

Sagsnr.

2024 - 624

Doknr.

68173

Dato

07-03-2024

Svar på spørgsmål fra Lisbeth Bech-Nielsen (SF) stillet den 9. februar 2024.

Spørgsmål nr. 107:

”I

ministerens tale ved førstebehandling af B 42 om retningslinjer og risikovurderinger for

brug af kunstig intelligens, udtaler ministeren at regeringen allerede har igangsat en række

initiativer på området. Vil ministeren redegøre for disse tiltag og oversende en oversigt over

samtlige regeringstiltag, der relaterer sig til retningslinjer og risikovurderinger for brug af kun-

stig intelligens, samt oplyse status på arbejdet i regeringens tech-ekspertgruppe, herunder i

forhold til de 13 konkrete anbefalinger, gruppen og ministeren præsenterede i juni 2023?

Spørgsmålet bedes besvares i skemaform.”

Svar:

I december 2023 blev der landet en aftale om forordningen om kunstig intelligens. Forordnin-

gen vil udgøre de første bindende regler om kunstig intelligens i verden. Det er i sig selv et af-

gørende skridt for at beskytte grundlæggende rettigheder. Samtidig sættes rammerne for

etisk og sikker innovation. Som jeg også bemærkede under førstebehandlingen af B 42 om

retningslinjer og risikovurderinger for brug af kunstig intelligens, bør vejledning, retningslinjer

mv. herefter udarbejdes og implementeres, så de er i overensstemmelse med forordningen.

Ved 1. behandlingen bemærkede jeg, at der derudover allerede er sat tiltag i gang.

Af tabel 1 herunder fremgår tiltag vedrørende retningslinjer/vejledning for brug af kunstig in-

telligens. Der sondres ikke mellem retningslinjer, vejledning mv.

Tabel 1

–

Tiltag vedrørende retningslinjer/vejledning for brug af kunstig intelligens

Initiativ

Beskrivelse

Organisatorisk foran-

kring

Digitaliseringsstyrelsen

Guide til offentlige

myndigheder om ge-

nerativ kunstig intelli-

gens

Guide til virksomhe-

der om generativ kun-

stig intelligens

I januar 2024 udgav Digitaliseringssty-

relsen guide til offentlige myndighe-

der om ansvarlig anvendelse af gene-

rativ kunstig intelligens.

I januar 2024 udgav Digitaliseringssty-

relsen guide til virksomheder om an-

svarlig anvendelse af generativ kun-

stig intelligens.

Digitaliseringsstyrelsen

DIU, Alm.del - 2023-24 - Endeligt svar på spørgsmål 107: Spm. om retningslinjer og risikovurderinger for brug af kunstig intelligens m.v.

Guide til borgere om

generativ kunstig in-

telligens

Digitaliseringsstyrelsen forventer i

foråret 2024 at udgive en guide til

borgere om ansvarlig anvendelse af

generativ kunstig intelligens.

Digitaliseringsstyrelsen har på virk-

somhedsguiden.dk udgivet en guide

om dataetik i brug og udvikling af al-

goritmer.

Med aftale om en ambitiøs og ansvar-

lig strategi for Danmarks digitale ud-

vikling fra februar 2024 er der afsat

17 mio. kr. til etablering af en regula-

torisk sandkasse, hvor virksomheder

og myndigheder kan modtage prak-

sisnær vejledning om udvikling og

brug af kunstig intelligens.

Digitaliseringsstyrelsen er i samar-

bejde med KL og Danske Regioner i

gang med at udvikle et AI-vurderings-

værktøj målrettet offentlige myndig-

heder. Værktøjet skal bidrage med

praksisnær teknisk og juridisk vejled-

ning til myndigheder, der skal ind-

købe, udvikle og anvende løsninger

baseret på kunstig intelligens.

Center for Cybersikkerhed (CFCS) har i

2023 udgivet en artikel om AI og cy-

bersikkerhed med fokus på avance-

rede AI-sprogmodeller som f.eks.

ChatGPT. Artiklen giver en række råd

til organisationer om at beskytte sig

mod trusler, der kan følge med tekno-

logien.

I 2019 udgav Finanstilsynet et papir

med god praksis på 9 konkrete områ-

der, som virksomheder burde for-

holde sig til, inden en eventuel brug

af teknologien. Finanstilsynet opdate-

rer i 2024 papiret.

Finanstilsynet udgav i 2023 en rap-

port med forslag til, hvordan virksom-

heder i den finansielle sektor kan ar-

bejde med dataetiske problemstillin-

ger.

Finanstilsynet har siden 2018 haft en

regulatorisk sandkasse, hvor virksom-

heder kan afprøve nye teknologier og

forretningsmodeller. Antallet af gen-

Digitaliseringsstyrelsen

Guide til dataetik i

brug og udvikling af al-

goritmer

Digitaliseringsstyrelsen

Regulatorisk sand-

kasse

Digitaliseringsstyrelsen

og Datatilsynet

AI-vurderingsværktøj

Digitaliseringsstyrelsen

Artikel om AI og cy-

bersikkerhed

Center for Cybersikker-

hed

God praksis ved brug

af kunstig intelligens,

herunder maskinlæ-

ring

Finanstilsynet

Rapport om dataetik

ved brug af AI i den fi-

nansielle sektor

Finanstilsynet

Regulatorisk sand-

kasse

Finanstilsynet

DIU, Alm.del - 2023-24 - Endeligt svar på spørgsmål 107: Spm. om retningslinjer og risikovurderinger for brug af kunstig intelligens m.v.

nemførte projekter har været be-

grænset, men et par af projekterne

har f.eks. haft fokus på AI.

I tillæg til ovenstående har Datatilsynet, der er en uafhængig tilsynsmyndighed, iværk-

sat en række initiativer om udarbejdelse af vejledningsmateriale og skabeloner for ud-

vikling og brug af kunstig intelligens, jf. tabel 2.

Tabel 2

–

Datatilsynets initiativer om udarbejdelse af vejledningsmateriale og skabeloner

for udvikling og brug af kunstig intelligens

Initiativ

Vejledning om offentlige

myndigheders brug af kun-

stig intelligens (Inden I går i

gang)

Beskrivelse

I oktober 2023 udgav Datatilsynet vejledning om of-

fentlige myndigheders udvikling og brug af kunstig in-

telligens, der omfatter behandling af personoplysnin-

ger.

I vejledningen ser Datatilsynet nærmere på kunstig

intelligens og de grundlæggende overvejelser, som

myndigheder skal gøre sig, inden de går i gang med at

udvikle AI-løsninger. Det omfatter bl.a. spørgsmål om

behandlingsgrundlag, oplysningspligt og konsekvens-

analyse.

Skabelon for gennemfø-

relse af konsekvensanalyse

vedrørende databeskyt-

telse ved udvikling og brug

af kunstig intelligens samt

dertilhørende risikokatalog

Datatilsynet forventer i 1. halvår 2024 at offentliggøre en

skabelon for, hvordan myndigheder og virksomheder gen-

nemfører en konsekvensanalyse vedrørende databeskyt-

telse ved udvikling og drift af kunstig intelligens-løsninger.

Skabelonen vil bl.a. indeholde en overordnet oversigt over

de mulige risici, der kan opstå ved udvikling og brug af kun-

stig intelligens-løsninger, samt et katalog over mulige foran-

staltninger, der kan implementere for at håndtere disse ri-

sici.

Derudover har Datatilsynet

–

foranlediget af konkrete henvendelser

–

afgivet en række

udtalelser om, hvordan udvikling og drift af kunstig intelligens-løsninger kan ske inden

for rammerne af databeskyttelsesreglerne.

Med hensyn til risikovurdering for brug af kunstig intelligens indeholder forordningen om kun-

stig intelligens allerede en risikovurdering, fordi den er baseret på en risikobaseret tilgang. Ek-

sempelvis vil offentlig sagsbehandling, der indebærer en høj risiko for at påvirke borgernes

grundlæggende rettigheder, blive betragtet som højrisiko. Med forordningen stilles der klare

krav til anvendelse af kunstig intelligens, som er risikofyldt. Hvis anvendelsen er risikobetonet,

pålægges der strenge og specifikke krav til AI-systemerne.

DIU, Alm.del - 2023-24 - Endeligt svar på spørgsmål 107: Spm. om retningslinjer og risikovurderinger for brug af kunstig intelligens m.v.

Af tabel 3 herunder fremgår tiltag vedrørende risikovurderinger for brug af kunstig intelligens,

som derudover er igangsat.

Tabel 3

–

Tiltag vedrørende risikovurdering for brug af kunstig intelligens

Trusselvurdering

CFCS arbejder på en trusselvurdering,

der uddyber, hvordan hackere kan

misbruge AI-sprogmodeller. Trussels-

vurderingen vil blive offentliggjort på

CFCS’ hjemmeside.

Center for Cybersikkerhed

Det bemærkes, at der bredt set er igangsat flere tiltag i relation til kunstig intelligens, som

ikke er dækket af tabel 1, 2 og 3 herover. Tabellerne dækker alene initiativer vedrørende ret-

ningslinjer/vejledning og risikovurdering, der konkret spørges ind til. Eksempelvis arbejder Di-

gitaliseringsstyrelsen samtidigt med løbende at opsamle og dele erfaringer om ansvarlig an-

vendelse af ny teknologi, herunder kunstig intelligens, i den offentlige sektor, bl.a. i regi af 10-

årsplanen for ny teknologi og automatisering af den offentlige sektor.

For så vidt angår de 13 anbefalinger fra regeringens ekspertgruppe om tech-giganter fra juni

2023 vedrørende demokratisk kontrol med tech-giganternes forretningsmodeller henvises til

bilag 1 - erhvervsministerens besvarelse af ERU alm. del spm. 73. For så vidt ekspertgruppens

anden delrapport med nye anbefalinger om tech-giganternes anvendelse og udvikling af kun-

stig intelligens, som blev offentliggjort den 29. februar 2024, henvises til bilag 2.

Med venlig hilsen

Marie Bjerre

Bilag:

Bilag 1 - ERU alm. del

–

svar på spm. 73

Bilag 2

–

Delrapportering 2 fra regeringens ekspertgruppe om tech-giganter