Udvalget for Digitalisering og It 2024-25
DIU Alm.del Bilag 55
Offentligt
2974827_0001.png
Generativ AI og
offentlige
myndigheder
– Pålidelighed og dataetik
5. februar 2025
 DIU, Alm.del - 2024-25 - Bilag 55: Materiale fra Dataetisk Råds møde d. 5/2 om arbejdsprogram for 2025 og Rådets anbefalinger om anvendelse af generativ AI i offentlige myndigheder
2974827_0002.png
Dataetisk Råds projekt
Brugsscenarier
Dataetiske udfordringer
Eksisterende retningslinjer
Risiko for fejl
Dataetisk Råds anbefalinger
 DIU, Alm.del - 2024-25 - Bilag 55: Materiale fra Dataetisk Råds møde d. 5/2 om arbejdsprogram for 2025 og Rådets anbefalinger om anvendelse af generativ AI i offentlige myndigheder
2974827_0003.png
Offentlige
myndigheder
bruger GenAI til…
•
Idegeneration
•
Tekstredigering
•
Udkast til brugerdefineret tekst
•
Informationssøgning
•
Opsummering af materiale
•
Vurdering af sagsforhold
 DIU, Alm.del - 2024-25 - Bilag 55: Materiale fra Dataetisk Råds møde d. 5/2 om arbejdsprogram for 2025 og Rådets anbefalinger om anvendelse af generativ AI i offentlige myndigheder
2974827_0004.png
Dataetiske udfordringer ved GenAI
Udfordringer i anvendelsen af GenAI
Udfordringer med potentiale for
misbrug af GenAI
Misinformation
Deep fakes
Manipulation
Spredning af farlig information
Forklædning af AI-genereret indhold
Udfordringer ved træning og
bredere effekter af GenAI
Brud på intellektuel ejendomsret
Miljøpåvirkning
Udbyttende arbejdspraksisser
Forstærkede tech-oligopoler
Forskydninger på arbejdsmarkedet
Eksistentielle risici ved AGI
Mistillid
Fejl og hallucinationer
Algoritmisk bias
Læk af private data
Diffus ansvarlighed
Uigennemsigtighed
 DIU, Alm.del - 2024-25 - Bilag 55: Materiale fra Dataetisk Råds møde d. 5/2 om arbejdsprogram for 2025 og Rådets anbefalinger om anvendelse af generativ AI i offentlige myndigheder
2974827_0005.png
Eksisterende retningslinjer
Konsensus om…
•
Deklaration af brug
•
Menneskelig kvalitetskontrol
•
Beskyttelse af følsomme data i prompting
•
Identifikation af bias
•
Forsigtighed ved brug af ADM
 DIU, Alm.del - 2024-25 - Bilag 55: Materiale fra Dataetisk Råds møde d. 5/2 om arbejdsprogram for 2025 og Rådets anbefalinger om anvendelse af generativ AI i offentlige myndigheder
2974827_0006.png
Risiko for fejl
Idegeneration
Tekstredigering
Udkast til brugerdefineret tekst
Informationssøgning
Opsummering af materiale
Idegeneration
Uegnede ideer
Overser eller indfører fejl
Uegnet eller faktuelt forkert tekst
Giver forkert information/undlader at
give information
Opfinder information/udelader
information/uegnet tekst
Uegnede ideer
 DIU, Alm.del - 2024-25 - Bilag 55: Materiale fra Dataetisk Råds møde d. 5/2 om arbejdsprogram for 2025 og Rådets anbefalinger om anvendelse af generativ AI i offentlige myndigheder
2974827_0007.png
Dataetisk fejlrisikoprofil
•
Hvor mange og hvilke fejl laver systemet?
•
Hvor mange fejl fanges af mennesker?
•
Hvilken indflydelse har fejl?
•
Hvilke beslutninger påvirkes?
 DIU, Alm.del - 2024-25 - Bilag 55: Materiale fra Dataetisk Råds møde d. 5/2 om arbejdsprogram for 2025 og Rådets anbefalinger om anvendelse af generativ AI i offentlige myndigheder
2974827_0008.png
Risiko for fejl
•
Hvordan bør offentlige myndigheder
forholde sig til risikoen for, at GenAI laver
fejl?
 DIU, Alm.del - 2024-25 - Bilag 55: Materiale fra Dataetisk Råds møde d. 5/2 om arbejdsprogram for 2025 og Rådets anbefalinger om anvendelse af generativ AI i offentlige myndigheder
2974827_0009.png
Dataetisk Råds anbefalinger
1
Offentlige myndigheder
bør begynde eventuel udforskning og
anvendelse af GenAI med brugsscenarier, hvor anvendelsen har lav
risikoprofil, og inddrage interessenter i udvikling og evaluering af
systemer.
2
Offentlige myndigheder
bør skelne mellem GenAI-systemer med høj
og lav risikoprofil, og kun bruge GenAI, når myndigheden har indført
tilstrækkelige mitigerende tiltag til at begrænse risikoen for fejl.
3
Offentlige myndigheder
bør systematisk vurdere GenAI-systemers
samlede risikoprofil for fejl i hvert enkelt brugsscenarie.
 DIU, Alm.del - 2024-25 - Bilag 55: Materiale fra Dataetisk Råds møde d. 5/2 om arbejdsprogram for 2025 og Rådets anbefalinger om anvendelse af generativ AI i offentlige myndigheder
2974827_0010.png
Dataetisk Råds anbefalinger
4
Offentlige myndigheder
bør gennemføre mere omfattende
kvalitetssikring af et GenAI-system, jo højere systemets
risikoprofil er.
5
Offentlige myndigheder
bør oplyse, hvordan de anvender
menneskelig kvalitetskontrol af GenAI, og tildele relevante
medarbejdere de nødvendige ressourcer.
6
Offentlige myndigheder
bør indføre nødvendige forholdsregler
til at identificere, dokumentere, oplyse og korrigere fejl, inden de
tager et GenAI-system i brug.
 DIU, Alm.del - 2024-25 - Bilag 55: Materiale fra Dataetisk Råds møde d. 5/2 om arbejdsprogram for 2025 og Rådets anbefalinger om anvendelse af generativ AI i offentlige myndigheder
2974827_0011.png
Dataetisk Råds anbefalinger
7
Regeringen
bør udvikle fælles retningslinjer for offentlige
myndigheders anvendelse af GenAI, som slår fast hvordan
myndigheder skal håndtere risikoen for fejl.
Regeringen
bør oprette et nationalt, offentligt register over
GenAI-systemer, som anvendes af offentlige myndigheder.
8
 DIU, Alm.del - 2024-25 - Bilag 55: Materiale fra Dataetisk Råds møde d. 5/2 om arbejdsprogram for 2025 og Rådets anbefalinger om anvendelse af generativ AI i offentlige myndigheder
2974827_0012.png
Dataetisk Råds fokus i 2025
TEMAER
AI & VELFÆRD
AI i sundheds- og
velfærdsteknologier
AI som beslutningsstøtte i
sociale sager
AI & ADFÆRD
DATAETISKE VÆRKTØJER
Samtalespil om brugen
af medarbejderdata
Opdaterede dataetiske
principper
PROJEKTER
Online aldersverificering
Politiets brug af
ansigtsgenkendelse
Efterårsprojekt
Efterårsprojekt
Efterårsprojekt
Høringssvar, kronikker, events, Folkemødet, Ungdommens Folkemøde