Udvalget for Digitalisering og It 2023-24
DIU Alm.del
Offentligt
2810923_0001.png
Justitsministeriet
Slotsholmsgade 10
1216 København K
Att.: Katrine Busch,
[email protected]
WILDERS PLADS 8K
1403 KØBENHAVN K
TELEFON 3269 8888
MOBIL 91325761
[email protected]
MENNESKERET.DK
DOK. NR. 24/00076-1
11. JANUAR 2024
NATIONALT TILSYN MED AI-FORORDNINGENS
REGLER
I slutningen af 2023 har Rådet, Parlamentet og Kommissionen indgået
en politisk aftale om den kommende AI-forordning.
1
Instituttet har tidligere sat fokus på områder, hvor AI-forordningen kan
styrkes fra et rettigheds- og retssikkerhedsmæssigt perspektiv, og hvor
der er behov for særskilte nationale indsatser og regulering.
2
Bl.a. har
instituttet fremhævet behovet for et nært samarbejde mellem
eksisterende tilsynsinstanser, herunder Datatilsynet,
Ligebehandlingsnævnet, Ankestyrelsen og efter omstændighederne
Folketingets Ombudsmand.
I forlængelse af dette ønsker instituttet at gøre ministeriet opmærksom
på de rettigheds- og retssikkerhedsmæssige forhold, der efter
instituttets vurdering bør indgå i overvejelser om placeringen af det
nationale tilsyn, som AI-forordningen foreskriver.
Det nationale tilsyn med AI-forordningens regler skal være uafhængigt,
og tilsynsmyndigheden skal besidde den nødvendige juridiske og
tekniske ekspertise inden for bl.a. AI-teknologier, data og
databehandling, grundlæggende rettigheder, sundheds- og
sikkerhedsrisici mv.
Ved siden af reglerne i AI-forordningen, er der efter instituttets
vurdering behov for national regulering, der sikrer rettigheder og
retssikkerhed, når offentlige myndigheder bruger algoritmiske modeller
Forslag til forordningen om harmoniserede regler for kunstig
intelligens og ændring af visse af Unionens lovgivningsmæssige
retsakter (KOM (2021) 206)
2
Mere fokus på menneskeretten i den kommende AI-forordning |
Institut for Menneskerettigheder
1
 DIU, Alm.del - 2023-24 - Endeligt svar på spørgsmål 71: Spm. om at oversende de henvendelser, ministeren har modtaget fra Forbrugerrådet Tænk, Danske Advokater, Dataetisk Råd og Kommunernes Landsforening samt fra eventuelle øvrige organisationer
2810923_0002.png
til at træffe eller støtte afgørelser om borgeren.
3
Det er instituttets
vurdering, at overvejelser om det nationale tilsyn efter AI-forordningen
bør tænkes sammen med dette.
Hvis det nationale tilsyn skal placeres ved en eksisterende myndighed,
bør der lægges vægt på eksisterende erfaring og ekspertise.
I den forbindelse ønsker instituttet at fremhæve, at Datatilsynet – som
en af de første tilsynsinstanser i Europa – har igangsat arbejde, der skal
sikre rettigheder og retssikkerhed, når offentlige myndigheder udvikler
og bruger kunstig intelligens.
4
Datatilsynet har ligeledes en ekspertise som national tilsynsinstans for
databehandling efter reglerne i GDPR. Der vil i udviklingen og brugen af
kunstig intelligens – ikke mindst for den offentlige sektor – være brug
for et tæt samspil mellem disse regler og reglerne i AI-forordningen.
På den baggrund anser instituttet det for nærliggende, at det nationale
tilsyn med AI-forordningens regler placeres hos Datatilsynet.
Instituttet står til rådighed, hvis ministeriet ønsker en uddybning af
ovenstående.
Med venlig hilsen
Marya Akhtar
JURIDISK CHEF
Når algoritmer sagsbehandler – Rettigheder og retssikkerhed i
offentlige myndigheders brug af profileringsmodeller | Institut for
Menneskerettigheder
4
Ny vejledning om offentlige myndigheders brug af AI og kortlægning
af AI på tværs af den offentlige sektor (datatilsynet.dk)
3
2/2