ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Erhvervsudvalget 2021-22
ERU Alm.del Bilag 77
Offentligt

(Omtryk - 30-11-2021 - Publikationen Sådan

Dataetik – Sådan gør du

Dataetik – Sådan gør du

Oktober 2021

Denne publikationen er udarbejdet af

Dataetisk Råd

Henvendelser om publikationen kan ske til

Sekretariatet for Dataetisk Råd

Landgreven 4

1301 København K

E-mail [email protected]

Publikationen kan hentes på

Dataetisk Råds hjemmeside dataetiskraad.dk

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Indhold

Hvad er dataetik?

Hvad er dataetik

10 centrale værdier og principper

Dataetik rækker ud over personoplysninger

Hvordan arbejder du med dataetik i

praksis?

5-trins guide

Identificerhvordan du håndterer data i dit

projekt, og hvad dit overordnede formål er

2. Analysérhvilke hensyn der taler for og imod

din databehandling

3. Afvejmodstående hensyn

4. Besluthvilke hensyn der vejer tungest

5. Evaluerde dataetiske konsekvenser løbende

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Dataetik skal være en

del af hverdagen

I Danmark står vi i en særlig situation med et stort potentiale. Vi er kommet langt

med digitalisering, og vi har adgang til store mængder data. Som borgere er

vi gode til at tage nye digitale services i brug, og mange virksomheder viser

stor omstillingsparathed. Samtidig har vi også en lang tradition for at sætte

mennesket i centrum og tænke ansvarligt. Lige præcis den del af vores kultur

bliver afgørende i en fremtid, hvor teknologi fylder mere og mere.

Den teknologiske udvikling rummer store muligheder for vækst og innovation.

Det kan og skal vi udnytte i mange sammenhænge. Men med den hastige

digitalisering følger også udfordringer og etiske dilemmaer. Det er derfor vig-

tigt, at vi tager stilling til, hvilken rolle digitale forandringer skal spille – og ikke

spille – i vores liv og samfund. Det er afgørende, at udviklingen sker på en etisk

ansvarlig måde, hvor mennesket beholder hovedrollen. Det er nemlig nu, vi læg-

ger fundamentet for fremtiden. Og det skal være en fremtid vi ønsker at leve i.

Som vi kender det fra hverdagen, hvor verden ikke er sort eller hvid, og hvor beslut-

som kan hjælpe med at trække dataetikken ned på jorden. Værktøjets formål

er at øge kendskabet til, hvordan du kan arbejde med dataetik. Det skal give

inspiration til, hvilke spørgsmål du kan stille dig selv og andre, når I arbejder

med konkrete dataetiske problemstillinger. Refleksioner over ansvarlig ageren

er en løbende proces, og er en disciplin vi mennesker aldrig bliver færdige med.

Her er vores bud på et praktisk værktøj, som kan bidrage med at bringe både

fordele, ulemper og utilsigtede konsekvenser frem i lyset og hjælpe til, at vigtige

dataetiske beslutninger bliver taget på et mere kvalificeret grundlag.

Dataetisk Råd håber, at værktøjet kan bidrage til nye og frugtbare samtaler

om dataetik.

God læselyst!

For mange mennesker er dataetik stadig en abstrakt størrelse, der kan være

svær at anvende i praksis. Derfor har Dataetisk Råd udviklet et praktisk værktøj,

ninger ofte kan have både positive og negative konsekvenser, så er beslutninger

om indførelse og brug af teknologi også behæftet med store dilemmaer. Spørgs-

målene er ofte mangesidede, og der er ikke nødvendigvis ét rigtigt svar. Men det

betyder ikke, at alt er lige godt eller lige dårligt. Kort fortalt handler dataetik om at

se bredere på samfundsmæssige og menneskelige konsekvenser og reflektere

over, hvor samfundet er på vej hen med den konkrete brug af en bestemt teknologi.

Johan Busse

Formand

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Hvad er

dataetik?

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Hvad er dataetik

betragtning. Når du handler etisk, prøver du ikke bare at tilgodese dig selv og

dine egne interesser, men tager også hensyn til hvad, der er det gode og det

rigtige at gøre i den specifikke situation – både i forhold til det enkelte menne-

ske og samfundet.

Etik er at gøre det rigtige selvom ingen kigger, og det er som regel vores grund-

værdier, der guider os. Hverdagen er fuld af situationer, som kalder på en etisk

Dataetik handler om at tage velovervejede

beslutninger

Alle valg har konsekvenser og de positive hensyn skal gerne opveje de negative.

Det handler om at finde en rimelig balance mellem på den ene side de mange

fordele, som anvendelse af data og ny teknologi giver, og på den anden side

de konsekvenser som brugen af data kan have for det enkelte menneske og

for samfundet på både kort og lang sigt.

Databehandling skal ganske vist ske inden for lovgivningens rammer, men

dataetik er ikke jura. Dataetik handler om mere end at overholde de regler, der

allerede gælder inden for databeskyttelsesforordningen (GDPR) og databe-

skyttelsesloven.

Dataetik skal forstås som den del af

etikken, der angår data.

Dataetik handler generelt om god praksis, når man indsamler, bruger og

deler data. Dataetik er særlig relevant, når behandlingen af data kan påvirke

mennesker og samfund, direkte eller indirekte. Dataetikkens fokus er derfor ikke

som sådan på data, men nærmere de menneskelige handlinger som vedrører

data. Med andre ord er en problemstilling kun dataetisk, når den omhandler

behandling af data.

Hertil skal nævnes, at en problemstilling ikke er dataetisk alene, fordi den ved-

rører behandling af data. Databehandlingen skal også rejse et etisk dilemma.

Det betyder, at der både skal være hensyn, der taler for og imod behand-

lingen af data. Et dataetisk dilemma opstår, hvis brugen af data er i konflikt

med en eller flere af vores samfundsmæssige centrale værdier og principper.

At gøre hvad du efter loven har ret til, er ikke

altid det samme, som at gøre hvad der er

godt eller rigtigt.

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

10 centrale værdier og principper

ind, når du arbejder med dataetik i praksis.

Inden for dataetikken er der forskellige principper og værdier, som du ofte vil støde på.

Her er 10 centrale værdier og principper, som Dataetisk Råd anbefaler, at du tænker

Velfærd

Behandling af data skal ske med respekt for og

Selvbestemmelse

hensyn til sociale forhold, samfund og demokrati.

ste og selvstændige valg. Det skal ikke mindske, begrænse

eller vildlede menneskets selvbestemmelse.

Behandling af data skal støtte mennesket i at træffe oply-

Værdighed

Det enkelte menneske bør have kontrol over egne data,

herunder kontrol med hvilke data, der indsamles, hvad

de anvendes til og i hvilke sammenhænge.

Behandling af data må ikke anvendes til at

skade det enkelte menneske, og mennesker bør

have den primære gavn af databehandlingen.

Det vil sige, at mennesker skal prioriteres før

kommercielle og institutionelle interesser.

Lighed

Behandling af data skal ske med respekt for privatliv

og under beskyttelse af personlige oplysninger. Det

bør altid overvejes, hvilke data der er nødvendige, fra

hvilke kilder data skal indhentes, og hvor følsomme

disse data anses for at være.

Indhold, omfang og deling af borgernes personlige

data bør begrænses mest muligt og ikke opbevares

i længere tid end højst nødvendigt.

Privatliv

af etnicitet, seksualitet, køn, socioøkonomisk baggrund,

politiske meninger, religion, fagforeningsmedlemskab,

genetiske data, biometriske data, handicap eller andre

sundhedsrelaterede data.

Behandling af data må ikke reproducere fordomme,

der marginaliserer og stigmatiserer befolkningsgrupper.

Der bør målrettet arbejdes for, at ressourcesvage og

udsatte borgere får gavn af den teknologiske udvikling.

Behandling af data må ikke diskriminere på baggrund

Der skal sikres mangfoldighed og diversitet i udvikling

og anvendelse af ny teknologi ved for eksempel ind-

dragelse af relevante faggrupper, brugergrupper og

organisationer.

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Frihed

Sikkerhed

Behandling af data skal ske med respekt for grund-

læggende frihedsrettigheder i et demokratisk sam-

fund. Herunder ytrings-, informations-, religions-,

forsamlings- og foreningsfrihed.

Behandling af data skal være tilstrækkelig sikker, robust

og pålidelig. Der skal sikres sikkerhed i opbevaring og

deling af data, således at data ikke utilsigtet bliver til-

gængelige for uvedkommende personer.

Retssikkerhed

Det skal være muligt at overvåge og udøve effektivt

tilsyn og kontrol, så fejl og potentielle negative sociale

eller etiske konsekvenser kan identificeres, evalueres,

dokumenteres og minimeres.

Behandling af data skal ske med respekt for grund-

læggende retssikkerhedsmæssige garantier og rets-

sikkerhedsniveauet i samfundet.

Ansvarlighed

Gennemsigtighed

gælder blandt andet udviklere, anvendere, myndigheder,

virksomheder, samarbejdspartnere og tredjeparter.

Det skal være muligt at stille mennesker til ansvar. Det

skal i alle led være klart hvem, der er ansvarlig for kon-

sekvenserne for udvikling og anvendelse af data. Det

af data, databehandlingens formål, funktion, sikkerhed

og begrænsninger. Bagvedliggende mønstre skal

kunne forklares og retfærdiggøres.

Behandling af data skal være tilstrækkelig gennem-

sigtig. Der skal være adgang til indsigt i egne data. Der

skal informeres klart og forståeligt om behandlingen

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Dataetik rækker ud over

personoplysninger

Dataetik handler om gøre, hvad der er det rigtige og mest ansvarlige at gøre, når du anven-

der data – også når der er tale om data, som ikke er personoplysninger. Her er eksempler

på situationer, hvor dilemmaer kan opstå, selvom der ikke er tale om personoplysninger.

Censur af indhold på

sociale platforme

Hvordan kan opslag, ytringer og andet indhold på

sociale medier fjernes ved hjælp af automatisere-

de systemer, uden at det går ud over for eksempel

individets ret til ytringsfrihed?

Afhængigheds-

skabende design

Hvordan kan et program, et spil, en app

eller lignende udformes, så det kan an-

vendes uden at brugeren risikerer, at de-

res opmærksomhed bliver manipuleret af

afhængighedsskabende design?

Algoritmisk

forskelsbehandling

Hvordan kan man bruge automatiserede systemer

og samtidigt undgå, at eventuel bias i de under-

liggende data fører til, at algoritmen producerer

skævvredne resultater?

Forudsige og påvirke

individers adfærd

sempel individers baggrund eller mønstre i data

om adfærd, samtidig med at man respekterer

individets ret til selvbestemmelse?

Hvordan kan man anvende prædiktive algorit-

mer, som kommer med forudsigelser om for ek-

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Hvordan

arbejder

du med

dataetik

i praksis?

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

5-trins guide

at komme frem til den mest ansvarlige løsning. Formålet er at give inspiration til, hvilke

Dette er Dataetisk Råds bud på, hvordan du kan arbejde med dataetiske dilemmaer for

Din hjælp til at arbejde

med dataetik i praksis

spørgsmål du kan stille dig selv og andre, når I arbejder med konkrete dataetiske pro-

blemstillinger.

Modellen er bygget op i fem trin, og indholdet står oven på en større analyse og en hel

del dataetiske diskussioner i rådet. Til hvert trin er der knyttet en række spørgsmål, som du

kan stille dig selv, men som bedst diskuteres i selskab med andre. Det kan være en fordel

at have de 10 centrale værdier og principper ved din side (s. 12-15), når du gennemgår

spørgsmålene.

Identificer

hvordan du håndterer data

i dit projekt og hvad dit

overordnede formål er

Analysér

hvilke hensyn der taler for

og imod din databehandling

Afvej

modstående hensyn

Beslut

hvilke hensyn der

vejer tungest

Evaluer

de dataetiske

konsekvenser løbende

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Identificer

hvordan du håndterer data i dit

projekt, og hvad dit overordnede

formål er

Det første skridt er at beskrive, hvordan relevante data bliver

håndteret i projektet samt hvad det overordnede formål med

behandlingen af data er.

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

1. Hvilke data indgår

i din databehandling

Som det første, er det relevant for dig at undersøge og afdække hvilke data, der indgår

i din allerede anvendte eller påtænkte databehandling. Det er vigtigt at have viden om,

fordi du skal vide, hvilken type data der indgår i din databehandling samt fra hvilke kilder

dine data indhentes. Endelig kan du undersøge, hvilke tidligere erfaringer der allerede

eksisterer med anvendelse af de pågældende typer data.

Hjælpespørgsmål

•

Hvilke data indgår i databehandlingen?

—

Anonyme data?

—

Personhenførbare data? (navn, adresse, e-mailadresse, ansøgning,

CV, billede mm.)

—

Personfølsomme data? (race og etnisk oprindelse, politisk overbe-

Det er vigtigt at vide, hvilken type data

der indgår i din databehandling samt fra

hvilke kilder dine data indhentes.

visning, religiøs eller filosofisk overbevisning, fagforeningsmæssige

tilhørsforhold, genetiske data, biometriske data med henblik på entydig

identifikation, helbredsoplysninger eller oplysninger om en persons

seksuelle forhold eller seksuelle orientering)

—

Oplysninger om strafbare forhold eller lignende?

—

Andre fortrolige oplysninger? (enkeltpersoners private herunder øko-

nomiske forhold, forretningshemmeligheder, statens sikkerhed mv.)

•

Hvilke kilder indhentes de anvendte data fra? (er det fra borgere, virksom-

heder, myndigheder, primære kilder, sekundære kilder)

•

Hvilke tidligere erfaringer har du med anvendelse af de pågældende

typer af data?

•

Er dataene troværdige, og er de repræsentative i forhold til formålet med

databehandlingen?

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

2. Hvordan behandler du data

Det er typisk også relevant, at du danner dig et overblik over, hvilken form for behandling af

data der er tale om. Er der for eksempel tale om skabelse, indsamling, lagring, præcisering,

deling, analyse og anvendelse af data? Du kan overveje, om der er tale om anvendelse

af systemer baseret på kunstig intelligens?

3. Hvad skal din

databehandling opnå

Der er stor forskel på, hvad databehandling bliver brugt til. Det kan for eksempel være at

du anvender kunstig intelligens til at foreslå en bestemt bog eller næste træk i et compu-

terspil. Et andet eksempel kan være, at databehandlingen skal resultere i en automatisk

afgørelse til en borger eller til at afdække eller forudse bestemte persongruppers karak-

tertræk, handlinger, adfærd eller lignende. Derfor er det relevant at overveje og beskrive,

hvad din databehandling skal bruges til.

Desuden er det væsentligt at undersøge, hvordan din behandling af data rent teknisk

fungerer. Heriblandt hvordan du indhenter data, og i hvor lang tid din data opbevares,

og om der sker deling af data og hvilket omfang din dataindsamling har.

Ligeledes kan det være relevant at du undersøger, hvilke tidligere erfaringer du har med

denne konkrete form for databehandling.

Hjælpespørgsmål

•

Hvad skal din databehandling resultere i?

—

Skal behandlingen af data anvendes til at afdække eller forudse

bestemte persongruppers karaktertræk, handlinger, adfærd eller

lignende?

—

Skal behandlingen af data resultere i en automatisk afgørelse til en

borger eller kunde?

—

Erstatter databehandlingen et andet produkt eller en anden service?

Hjælpespørgsmål

•

Hvilken form for databehandling anvender du?

Hvordan fungerer din databehandling rent teknisk?

—

Hvordan holder du personlige og andre følsomme oplysninger sikre?

•

Hvilke og hvor mange data indgår?

Hvordan indhenter du data?

Hvordan og i hvilken udstrækning sker der deling af data?

Hvordan opbevares dine data og i hvor lang tid?

Hvilke tidligere erfaringer har du med den pågældende form for

databehandling?

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Analysér

hvilke hensyn der taler for

og imod din databehandling

Næste skridt er, at du skal finde ud af hvilket dataetisk dilemma,

du står over for. Du kommer frem til det dataetiske dilemma ved

at analysere, hvilke hensyn der taler for og imod den påtænkte

eller anvendte databehandling. Et dataetisk dilemma opstår, hvis

brugen af data er i konflikt med en eller flere af vores centrale

værdier og principper, som blev præsenteret på side 12-15.

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

1. Hvilke dataetiske hensyn

taler for behandlingen af data

Det står klart for de fleste, at ny teknologi og data kan bruges til utallige gode formål. Al-

goritmer og kunstig intelligens kan føre meget godt med sig. Både for den enkelte borger,

virksomheder og samfundet helt generelt.

Hjælpespørgsmål

•

Hvilke overordnede formål søger du at opnå med din databehandling?

•

Gør du tingene bedre for samfundet? Hvordan og for hvem?

•

Hvilke personer, grupper eller organisationer vil blive positivt påvirket

af din databehandling? Hvordan?

—

Ved og forstår de, hvordan de påvirkes positivt?

Det er vigtigt at foretage en konkret

vurdering af, om der er tale om et

anerkendelsesværdigt hensyn

Er der for eksempel effektiviseringsgevinster at hente, bliver arbejdslivet lettere, sørger

projektet for at øge konkurrenceevnen eller produktiviteten, undgår man snyd, forebygger

man sygdom eller understøttes den grønne omstilling? Det enkelte hensyn skal altid være

sagligt velbegrundet. Derfor er det vigtigt, at du beskriver, hvordan hensynene konkret

gavner og tilgodeser det enkelte menneske og samfundet.

•

Kan den anvendte eller påtænkte teknologi reelt anvendes til realise-

ringen af de positive hensyn?

•

Indebærer det at data bruges på en ny måde, der afviger fra det oprin-

delige formål?

•

Skal oplysningerne senere bruges til andre (nye) formål?

Men med store muligheder følger desværre

også en risiko for faldgruber.

Du skal også overveje og beskrive, om den anvendte eller påtænkte databehandling reelt

kan anvendes til realiseringen af det pågældende hensyn. Det skal være realistisk, at de

data du indsamler kan bruges til det konkrete formål.

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

2. Hvilke dataetiske hensyn taler

imod behandlingen af data

Dataetik handler ikke blot om de dataetiske konsekvenser, som nu og her er forbundet

med behandlingen af data. Det handler også om, hvilke dataetiske konsekvenser, som

man kan risikere at blive konfronteret med i fremtiden. Ny teknologi og vores brug af data

skal være ansvarlig og bæredygtig i det lange løb.

Hjælpespørgsmål

•

Kan den måde, hvorpå du indsamler, bruger og deler data påvirke den

enkelte negativt?

•

Mindsker, begrænser eller vildleder din databehandling den enkeltes

selvbestemmelse?

•

Har den enkelte bruger kontrol over egne data, herunder kontrol med

hvilke data, du indsamler, hvad du anvender data til og i hvilke sam-

mengænge?

Overvej om din behandling af data har

negative konsekvenser i forhold til det

enkelte menneske – nu og i fremtiden

Databehandling bør altid ske med respekt for menneskelig værdighed, den enkelte bru-

gers selvbestemmelse og det enkelte menneskes privatliv.

Det kan i den forbindelse være relevant for dig at overveje, om din databehandling

støtter den enkelte i at træffe informerede valg eller om behandlingen af data mindsker,

begrænser eller direkte vildleder den enkelte i at træffe et frit valg. Her kan du overveje,

om man som individ selv kan beslutte, hvilke data der indhentes og opbevares om en.

Det er også relevant at reflektere over, hvad dine indsamlede data bruges til og i hvilke

sammenhænge, du anvender data.

•

Begrænser din databehandling den enkelte borgers privatliv?

•

Hvor følsomme er de data, som du anvender?

•

Opbevarer du persondata i længere tid end højst nødvendigt?

•

Kan din databehandling indebære usaglig forskelsbehandling eller

i øvrigt have utilsigtede negative konsekvenser for berørte borgere?

(stigmatisering, marginalisering, økonomiske konsekvenser)

•

Er din databehandling målrettet børn eller unge, og hvilke dataetiske

overvejelser kan det give anledning til?

•

Får ressourcesvage og udsatte borgere gavn af den teknologiske løsning?

•

Er den teknologiske løsning udviklet under inddragelse af relevante

faggrupper, brugergrupper og organisationer?

Ligeledes bør du også overveje, hvor følsomme de data, du anvender, er. For eksempel

omhandler de religiøse, politiske eller seksuelle forhold? Det er også værd at overveje om

omfanget af persondata kan begrænses, og om data opbevares i længere tid end højst

nødvendigt. Med andre ord, gemmes data, som ikke anvendes, eller er relevant at have

opbevaret til fremtiden?

Derudover bør du overveje, om behandlingen af data sker med udgangspunkt i det enkelte

menneskes behov og værdier, eller om behandlingen af data kan have utilsigtede nega-

tive konsekvenser for berørte borgere. For eksempel forskelsbehandling, stigmatisering,

sociale eller økonomiske forhold. Tænk over om ressourcesvage og udsatte borgere får

gavn af den teknologiske løsning.

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Overvej om din behandling af data

har negative konsekvenser i forhold til

samfundet som helhed – nu og i fremtiden

Det er også vigtigt, at du overvejer, om behandlingen af data har (eller kan få) en negativ

Overvej om din behandling af data er

tilstrækkelig gennemsigtig

Det er vigtigt, at behandlingen af data er tilstrækkelig gennemsigtig. Her kan du overveje,

om det er muligt at forklare, hvordan teknologien bag fungerer på en let forståelig måde.

betydning for samfundet som helhed. Det kan for eksempel være utilsigtede konsekvenser

for demokratiet, retssikkerhedsniveauet, sociale forhold, bæredygtighed, klima og miljø.

Det er også vigtigt at forholde sig til, om der er åbenhed om de data, som er anvendt til

udvikling af teknologien. Er der ret til indsigt i egne data og informerer du klart og forstå-

eligt om behandlingen af data, herunder din databehandlings formål, funktion, sikkerhed

og begrænsninger?

Hjælpespørgsmål

•

Har behandlingen af data negative konsekvenser for samfund, demo-

krati, sociale forhold, retssikkerhedsniveauet, bæredygtighed, klima,

miljø og biodiversitet?

•

Begrænser din databehandling borgernes grundlæggende rettigheder,

herunder for eksempel retssikkerhed, ytrings- og informations-, religi-

ons-, forsamlings- og foreningsfrihed?

Hjælpespørgsmål

•

Bliver brugeren klart informeret om databehandlingens formål, funktion,

sikkerhed og begrænsninger?

•

Forstår andre dit formål - især mennesker, som dataene handler om,

eller som påvirkes af brugen af dem?

•

Hvordan har brugeren indsigt i det data, der er anvendt til udviklingen

af teknologien?

•

Er der ret til indsigt i egne data? Hvis ja, hvordan kan brugeren få indsigt

i egne data?

•

Hvordan kan folk rette oplysninger, appellere eller anmode om ændringer

af produktet/tjenesten? I hvilket omfang?

—

Er klagemekanismer rimelige og velforståede?

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Overvej om din behandling af data er

tilstrækkelig sikker, robust og pålidelig

Overvej hvem der er ansvarlig for

behandling af data og dens konsekvenser

Sikkerhed i dataetik handler grundlæggende om at sikre, at behandlingen af data ikke har

utilsigtede konsekvenser. At sikre systemets evne til at indfri målet med behandlingen af

data og at beskytte andre værdier eller principper. Privatlivet og beskyttelse af persondata

er et eksempel, hvor sikkerhed er i fokus.

Databehandling kan i nogle situationer føre til, at ansvaret for eventuelle fejl bliver mere

diffust. Hvis eksempelvis menneskelig sagsbehandling bliver erstattet med en algoritme,

som træffer automatiserede afgørelser, kan der opstå situationer, hvor det er vanskeligt

at fastslå, hvor ansvaret skal placeres. Du kan derfor overveje, om det i alle led er klart,

hvem der er ansvarlig for konsekvenserne af udvikling og anvendelse af data.

Hjælpespørgsmål

•

Er der sikret tilstrækkelig sikkerhed i opbevaring og deling af data, således

at data ikke utilsigtet bliver tilgængelige for uvedkommende personer?

•

Er datasystemet tilstrækkelig robust og pålideligt, således at kritiske

systemer ikke bryder sammen?

•

Er datasystemet modstandsdygtigt over for angreb og forsøg på mani-

pulation af data og algoritmer?

•

Er der sikret tilstrækkelig grad af tilsynsmekanismer og fejlsikring, så

man er i stand til at overvåge og udøve effektivt tilsyn og kontrol?

•

Er der gjort tilstrækkeligt for, at der ikke er en unødvendig bias?

Hjælpespørgsmål

•

Er det klart hvem, der er ansvarlig for databehandlingen og dens

konsekvenser?

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Afvej

modstående hensyn

Når du har identificeret hvad, der taler henholdsvis for og imod

den påtænkte eller anvendte databehandling, skal du foretage en

konkret afvejning.

Formålet er at finde frem til en rimelig balance mellem de positive

hensyn ved behandlingen af data og de negative konsekvenser,

der er eller kan være forbundet med behandlingen af data.

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Man kan ikke sætte denne afvejning

på formel, men man kan sige noget om,

hvilke overvejelser der skal i betragtning.

1. Kan du opfylde samme formål

med mindre indgribende data

For det første kan du overveje, om de dataetiske konsekvenser, der er forbundet med din

databehandling, er nødvendige for at opnå de formål, du ønsker med databehandlingen.

Tænk over, om samme resultat kan opnås med mindre indgribende midler/metoder/

værktøjer.

Det er sjældent en let øvelse at finde frem til, hvad der er det rigtige at gøre i den kon-

krete situation og hvorfor. Når man står over for et dilemma uden indlysende svar, bør

afvejningen ske ud fra en helhedsvurdering, der bygger på en vurdering af hvilke hensyn,

der vejer tungest. Man skal forsøge at inddrage alle aspekter, som knytter sig til de kon-

krete omstændigheder og på den baggrund lave en konkret afvejning af, hvilket hensyn

vægter højst.

Dataetisk Råd har opstillet to konkrete pejlemærker for, hvilke overvejelser du bør gøre dig.

Hjælpespørgsmål

•

Kan du opfylde samme formål uden at bruge personhenførbare data?

(navn, adresse, e-mailadresse, ansøgning, CV, billede mm.)

•

Kan du opfylde samme formål uden at anvende personfølsomme data?

(race og etnisk oprindelse, politisk overbevisning, religiøs eller filosofisk

overbevisning, fagforeningsmæssige, tilhørsforhold, genetiske data,

biometriske data med henblik på entydig identifikation, helbredsoplys-

ninger eller oplysninger om en persons seksuelle forhold eller seksuelle

orientering)

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

2. Hvor tungt vejer de

modsatrettede hensyn

For det andet må du konkret vurdere, om de positive hensyn, du tilgodeser ved din data-

behandling, vejer tungere end hensynet til de dataetiske konsekvenser, der er eller kan

være forbundet med behandlingen af data.

Hjælpespørgsmål

•

Står de dataetiske konsekvenser i et rimeligt forhold til de formål, som

du gerne vil forfølge?

•

Kan mindre indgribende databehandling opfylde samme formål?

•

Hvor tungtvejende er de dataetiske konsekvenser?

•

Er de dataetiske konsekvenser særligt intensive?

•

Hvor tungtvejende er de hensyn, som bliver tilgodeset ved databe-

handlingen?

Vægten af de hensyn, der taler for behandlingen af data, kan variere på samme måde

som vægten af de hensyn, der taler imod behandlingen af data. For eksempel vil hensynet

til folkesundhed normalt veje tungt, hvorimod hensynet til økonomi og effektivitet almin-

deligvis vil veje mindre tungt. Det er dog vanskeligt at foretage sådanne generaliseringer.

Behandling af data må grundlæggende

kræve stærkere grunde, jo flere negative

dataetiske konsekvenser, der er forbundet

med databehandlingen. På samme måde

må det kræve stærkere grunde, jo mere

intensive de dataetiske konsekvenser er.

Afvejningen bør altid ske ud fra rimelighedsbetragtninger knyttet til den konkrete sags

omstændigheder. Med andre ord skal du i din afvejning tage hensyn til hvilke data, der

indgår i din behandling af data, hvordan du behandler dine data, og hvad din databe-

handling skal resultere i.

Afvejningen af modsatrettede hensyn bør altid ske ud fra, hvad du synes er passende

i den konkrete situation. Afvejningen skal med andre ord ske ved at tage hensyn til de

overvejelser du har gjort dig tidligere i processen i forbindelse med:

•

• Hvilke data indgår i din databehandling

•

• Hvordan behandler du data

•

• Hvad din databehandling skal opnå

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Beslut

hvilke hensyn der vejer tungest

Dataetik handler ikke blot om de overvejelser, som du bør gøre dig,

men i lige så høj grad om de valg og handlinger, som du foretager dig.

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Du har grundlæggende et etisk ansvar for at reflektere over de data, du anvender,

samtidig med at du også har et ansvar for at vælge de mest etiske løsninger og for at

sige fra over for uetiske løsninger.

Du kan stå i en situation, hvor du kommer frem til, at behandlingen af data samlet set er

dataetisk forsvarlig, selv om der er eller kan være uhensigtsmæssige dataetiske konse-

kvenser. I sådanne tilfælde bør du sikre åbenhed omkring de dataetiske konsekvenser,

der er eller potentielt kan være forbundet med behandlingen af data. Det er derfor en

god ide at redegøre for, hvorfor du har valgt noget til og hvorfor du har valgt noget fra.

Der er sjældent en egentlig facitliste, men det

betyder ikke, at alt er lige rigtigt og lige forkert.

Når du står over for et dataetisk dilemma uden indlysende svar, handler det om at vælge

den løsning, der har den mest rimelige balance mellem de fordele, der er forbundet med

databehandlingen, og de dataetiske konsekvenser, der er ved databehandlingen. Er du i

tvivl om udfaldet af afvejningen, så prøv at stille dig selv følgende spørgsmål:

Hjælpespørgsmål

•

Ville du selv bruge teknologien?

•

Ville du lade dit barn bruge teknologien?

•

Hvor åben kan du være om dette projekt?

—

Kan du åbenlyst offentliggøre din metode og dine handlinger?

—

Er du usikker eller fortæller du stolt om den løsning, som du har

udviklet?

•

Vil det være muligt at misbruge data, hvis det kommer i de forkerte

hænder?

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Evaluer

de dataetiske konsekvenser løbende

Sidste skridt handler om, hvordan du løbende vil evaluere de data-

etiske konsekvenser, der kan være forbundet med din behandling

af data.

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Man bør løbende evaluere de dataetiske

konsekvenser, der er forbundet med

behandlingen af data.

Selv om du kommer frem til, at din databehandling samlet set er dataetisk forsvarlig, kan

din databehandling på et senere tidspunkt vise sig at få utilsigtede konsekvenser. Det kan

for eksempel være, at systemet viser sig ikke at kunne indfri målet med behandlingen af

data, eller at der sker fejl i databehandlingen. Det kan også være, at der opstår algoritmisk

forskelsbehandling eller at der sker et sikkerhedsbrud, hvor data bliver tilgængelige for

uvedkommende personer. Man bør derfor løbende evaluere de dataetiske konsekvenser,

der er forbundet med databehandlingen.

Hjælpespørgsmål

•

Hvordan vil du løbende diskutere dataetiske spørgsmål?

•

Hvornår vil du gennemgå trinene igen?

•

Hvem er ansvarlig for disse handlinger, og hvem skal involveres?

Dataetik – Sådan gør du

ERU, Alm.del - 2021-22 - Bilag 77: Præsentationer fra mødet med Dataetisk Råd den 25. november 2021 om at tænke dataetik ind i udvalgsarbejdet

Dataetik er ikke noget, der kan

fastlægges en gang for alle,

men er noget levende i konstant

udvikling. Det som vi opfatter

som dataetisk ansvarligt, udvikler

sig i takt med at vores samfund

forandrer sig, og nye teknologiske

muligheder opstår.

Dataetik er et emne, vi som

samfund skal fortsætte med

at debattere. Rådet modtager

derfor også meget gerne

forslag til justeringer på post@

dataetiskraad.dk

Dataetik – Sådan gør du