DIU, Alm.del - 2023-24 - Bilag 20: EU-note 42 om bekæmpelse af seksuelt misbrug af børn online

Udvalget for Digitalisering og It 2023-24
DIU Alm.del Bilag 20
Offentligt

EU-note

Til orientering af Europaudvalget og Retsudvalget

Nye EU-regler skal dæmme op for seksuelt misbrug af børn på internet-

tet

Sammenfatning

Kommissionen foreslår ny EU-lovgivning, som skal forebygge og be-

kæmpe seksuelt misbrug af børn online. De nye regler vil bl.a. pålægge

digitale platforme i EU forpligtelser til at opspore, indberette, fjerne og blo-

kere for adgangen til børnepornografisk indhold og hvervning af børn på

deres tjenester.

EU skal samtidig oprette et nyt EU-center for seksuelt misbrug af børn,

som skal bistå de ansvarlige nationale myndigheder, Kommissionen og

udbydere af onlinetjenester med at opfylde deres forpligtelser i henhold til

de nye EU-regler.

Forslaget sigter ifølge Kommissionen på at sikre en rimelig balance mel-

lem beskyttelsen af de involverede parters forskellige grundlæggende ret-

tigheder. Alligevel har en række aktører advaret om, at forslaget risikerer

at svække beskyttelsen af grundlæggende rettigheder i EU, herunder bru-

gernes ret til privatliv, kommunikationshemmelighed og persondatabe-

skyttelse.

Folketinget skal have afsluttet sit nærhedstjek af forslaget senest den 25.

oktober 2022.

21. september 2022

Det Internationale

Sekretariat

Morten Knudsen

Tlf. 3695

EU-konsulent

Side 1 | 9

DIU, Alm.del - 2023-24 - Bilag 20: EU-note 42 om bekæmpelse af seksuelt misbrug af børn online

I. Baggrund og indhold

Kommissionen præsenterede den 11. maj 2022 et forslag om fælles EU-reg-

ler, som skal være med til at forebygge og bekæmpe seksuelt overgreb på

børn på internettet

Udspillet er ifølge Kommissionen nødvendigt, da de eksisterende nationale

regler er utilstrækkelige i forhold til at imødegå de voksende problemer i EU

med brugen af onlinetjenester til at udbrede materiale, der viser seksuelt mis-

brug af børn. Internettet har samtidig givet gerningsmænd nye muligheder for

at kontakte børn på sociale medier, spilplatforme og chats, som ikke fandtes

tidligere. Kommissionens forventning er, at udbredelsen vil gå yderligere i

vejret i de kommende år.

Ifølge Kommissionen viser nye tal således en »overvældende stigning« i

mængden af materiale, der viser seksuelt misbrug af børn online i EU. Det

gælder både deling af materialet og hvervning af børn (såkaldt grooming).

Ifølge tal fra NCMEC, som er USA’s

nationale center for savnede og udnyt-

tede børn

, steg antallet af indberetninger fra EU-landene fra 17.500 i 2010 til

1.046. mio. i 2020. Indberetningerne i 2020 omfattede hele 3,7 mio. billeder

og videoer med kendt materiale

og 528.000 billeder og videoer med nyt ma-

teriale

. Ifølge Kommissionen er disse tal formentligt kun toppen af isbjerget,

da det stadig er meget få onlinetjenesteudbydere, som indberetter materiale

til NCMEC

. Der findes ikke fælles europæiske tal.

Forslagets formål og retsgrundlag

Kommissionen foreslår, at EU benytter traktatens bestemmelser om det indre

marked i TEUF art. 114 til at vedtage det nye forslag. Forslaget har nemlig til

formål at harmonisere forpligtelserne for onlinetjenesteudbydere på EU’s digi-

tale indre marked, hvis tjenester risikerer at blive misbrugt til at udbrede ma-

teriale, som viser seksuelt misbrug af børn.

Kommissionen begrunder sit valg af retsgrundlag med, at nogle EU-lande er

begyndt at vedtage egne nationale regler for at bekæmpe udbredelsen af så-

dant materiale,

hvilket risikerer at øge fragmenteringen af EU’s digitale indre

Kom(2022)0209

–

Forslaget til forordning er et af de initiativer, Kommissionen lovede at frem-

sætte i sit arbejdsprogram for 2021, men som er blevet forsinket og derfor først fremsat den 11.

maj 2022. Forslaget forelå først i en dansk sprogversion den 19. juli 2022.

NCMEC står for US National Centre for Missing and Exploited Children.

Genuploadede fotos og videoer, som tidligere er blevet identificeret som materiale, der viser

seksuelt misbrug af børn.

Fotos og videoer, der ikke tidligere er identificeret.

Facebook stod i 2020 for 95 pct. af alle indberetninger til NCMEC.

Side 2 | 9

DIU, Alm.del - 2023-24 - Bilag 20: EU-note 42 om bekæmpelse af seksuelt misbrug af børn online

marked. Det skaber ulige konkurrencevilkår for udbydere af onlinetjenester i

hele EU. Kommissionen mener derfor, at der er brug for at harmonisere de

krav, der pålægges udbydere af relevante onlinetjenester for at fjerne natio-

nale forskelle og undgå fremtidige hindringer.

Ifølge Kommissionen har det nye forslag derimod ikke til hensigt at harmoni-

sere bestemmelser på det strafferetlige område, hvorfor TEUF artikel 82 og

83 ikke vil være det korrekte retsgrundlag. EU vedtog allerede i 2011 et direk-

tiv om bekæmpelse af seksuelt misbrug og seksuel udnyttelse af børn på

baggrund af EU-traktatens strafferetlige bestemmelser

. Men dette forslag

havde til formål at harmonisere EU-landenes regler på det strafferetlige om-

råde, bl.a. gennem fastsættelsen af minimumsregler for, hvilke handlinger der

skal være strafbare på området, og hvad der skal være strafferammerne her-

for.

Valget af retsgrundlag i TEUF art. 114 betyder samtidig, at det danske rets-

forbehold ikke finder anvendelse, og Danmark derfor deltager fuldt ud i den

kommende EU-lovgivning på området.

II. Hvad foreslår Kommissionen?

Kommissionens forslag til forordning skal tilvejebringe den nødvendige lov-

givning på EU-plan til effektivt at tackle seksuelt misbrug af børn online. Det

skal navnlig ske ved at:

1. Harmonisere digitale platformes forpligtelser i EU til at opspore, ind-

berette og fjerne materiale, der viser seksuelt misbrug af børn og

hvervning af børn.

2. Oprette et nyt EU-center for seksuelt misbrug af børn, som skal bistå

de ansvarlige nationale myndigheder, Kommissionen og udbydere af

on-linetjenester med at opfylde deres forpligtelser i henhold til de nye

EU-regler.

Harmonisering af digitale platformes forpligtelser

Kommissionen lægger med sit forslag op til at indføre en række forskellige

krav til digitale platforme i EU, som skal styrke deres mulighed for at opdage

og indberette misbrug af deres tjenester til at dele digitalt indhold, der viser

seksuelt misbrug af børn.

Forslaget har hjemmel i TEUF art. 82, stk. 2 og art. 83, stk. 1. Det betyder, at Danmark pga.

retsforholdet ikke er omfattet af dette direktiv, men dansk ret vurderes ifølge Justitsministeriet at

være i overensstemmelse med direktivet.

Side 3 | 9

DIU, Alm.del - 2023-24 - Bilag 20: EU-note 42 om bekæmpelse af seksuelt misbrug af børn online

For det første skal udbydere af hosting- og kommunikationstjenester

i EU

forsøge at forebygge udbredelsen af børnepornografiske billeder og videoer

og hvervningen af børn på deres tjenester ved at foretage en obligatorisk risi-

kovurdering, hvor de vurderer sandsynligheden for, at tjenesterne kan mis-

bruges til dette. Risikovurderingen gælder både for spredningen af kendt og

nyt materiale. Hvis en udbyder vurderer, at der er en sådan risiko, forpligtes

denne til at iværksætte skræddersyede afbødende foranstaltninger for at

mindske de identificerede risici for seksuelt misbrug af børn.

Hvis de ansvarlige nationale myndigheder

–

trods iværksættelsen af afbø-

dende foranstaltninger

–

fortsat konstaterer, at der er en betydelig risiko for,

at en tjeneste anvendes med henblik på seksuelt misbrug af børn online, kan

de bede en domstol eller en anden uafhængig national myndighed om at på-

lægge tjenesteudbyderen at screene beskeder for børnepornografisk indhold

eller materiale til hvervning af børn ved hjælp af IA-sporingsteknologi. Pålæg-

get omfatter også screening af krypteret kommunikation, da en stor del af

indberetningerne om seksuelt misbrug ifølge Kommissionen kommer fra tje-

nester, som er krypterede.

Hvis en internetudbyder i forbindelse med en screening finder børneporno-

grafisk indhold i en besked hos en bruger på en af sine tjenester, vil udbyde-

ren være forpligtet til at indberette dette til et nyt

»EU-Center for bekæmpelse

af seksuelt misbrug af børn«,

som Kommissionen foreslår oprettet (se afsnit

nedenfor).

Internetudbyderen vil dog i henhold til EU-retten ikke være forpligtet til at

fjerne materialet, men kan i sidste ende blive pålagt at gøre dette. Det kræver

dog, at den ansvarlige nationale myndighed

anmoder en domstol eller en

anden uafhængig national myndighed om at udstede et påbud til udbyderen

om fjernelse eller blokering af adgangen til materialet i alle EU-lande

. Udby-

deren skal efterkomme påbuddet om fjernelse hurtigst muligt og senest 24 ti-

mer efter modtagelsen af påbuddet.

Kravet gælder ifølge forslagets art. 2 litra f for udbydere af hostingtjenester og interpersonelle

kommunikationstjenester

(f.eks. WhatsApp, Messenger og Instagram),

softwareapplikationsbu-

tikker og internetadgangstjenester.

EU-landene udpeger ifølge art. 25 en af deres kompetente myndigheder som koordinerende

myndighed for spørgsmål vedrørende seksuelt misbrug af børn. Den koordinerende myndighed

er ansvarlig for alle spørgsmål vedrørende anvendelsen og håndhævelsen af denne forordning

i det pågældende EU-land.

Den ansvarlige nationale myndighed er i dette tilfælde den koordinerende myndighed i etable-

ringslandet udpeget af den medlemsstat, hvor udbyderen af den relevante tjeneste har sit ho-

vedforretningssted.

Artikel 14 i forslaget. Reglerne i denne afdeling af forslaget er ifølge Kommissionen inspireret

af reglerne i forordningen om terrorrelateret onlineindhold (Forordning 2021/784). Denne forord-

ning gav anledning til visse overvejelser i forhold til overholdelsen af det såkaldt uskrevne

Side 4 | 9

DIU, Alm.del - 2023-24 - Bilag 20: EU-note 42 om bekæmpelse af seksuelt misbrug af børn online

Sker dette ikke, kan udbyderne pålægges sanktioner. Ifølge forslaget skal

EU-landene fastsætte sanktioner, som er effektive, står i et rimeligt forhold til

overtrædelsen og har afskrækkende virkning. Maksimumsbeløbet for sanktio-

nerne bør dog ikke overstige 6 pct. af udbyderens årlige indkomst eller sam-

lede omsætning

Oprettelse af nyt EU-center for seksuelt misbrug af børn

Kommissionen foreslår, at der oprettes et uafhængigt

»EU-center for seksuelt

misbrug af børn«.

Centret skal kunne yde støtte til de ansvarlige nationale

myndigheder og Kommissionen med udførelsen af deres opgaver og bistå

udbydere af onlinetjenester med at opfylde deres forpligtelser i henhold til de

nye EU-regler.

Centret skal indsamle alle indberetninger fra hele EU om potentielt seksuelt

misbrug af børn online fra udbydere af onlinetjenester og registrere disse i en

ny database. Centret skal samtidig undersøge, om der er hold i indberetnin-

gerne, eller de må anses for åbenbar grundløse

. Er der hold i en indberet-

ning, videresendes denne til Europol og de retshåndhævende myndigheder i

EU-landene, som har kompetence til at efterforske sagen eller retsforfølge

evt. mistænkte

Centret skal samtidig hjælpe udbyderne med at opspore, indberette, fjerne el-

ler spærre for adgangen til materiale med seksuelt misbrug af børn på deres

tjenester. Det skal bl.a. ske ved, at centret gratis stiller pålidelige opsporings-

teknologier til rådighed for tjenesteudbyderne. EU-centret skal samtidig etab-

lere og forvalte en database over indikatorer til opsporing af materiale, der vi-

ser seksuelt misbrug af børn eller hvervning af børn.

Centret skal desuden stå til rådighed med hjælp til ofrene med at fjerne mate-

riale, der viser dem

. Bl.a. sikres ofre ret til at modtage oplysninger om ind-

beretninger af kendt børnepornografisk indhold, der viser dem, fra EU-centret

grundlovsforbud i Danmark. Regeringen bemærker formentligt derfor i sit grund- og nærheds-

notat om det nye forslag, at den ”er opmærksom på forslagets forenelighed med grundlovens

bestemmelser og vil under forhandlingerne have fokus på, at løsningsmodellen skal foregå in-

den for

grundlovens rammer”.

Artikel 35 i forslaget.

Artikel 12 i forslaget.

Artikel 48 i forslaget.

Artikel 20 og 21 i forslaget.

Side 5 | 9

DIU, Alm.del - 2023-24 - Bilag 20: EU-note 42 om bekæmpelse af seksuelt misbrug af børn online

via den ansvarlige nationale myndighed i deres hjemland. Centret skal fun-

gere som en slags knudepunkt for ekspertise inden for forebyggelse og sam-

ler ekspertise og forskning i den støtte, der er til rådighed.

Centret skal have hjemsted i Haag i Holland og ledes af en bestyrelse, som

skal udstikke de overordnede retningslinjer for EU-centrets aktiviteter bestå-

ende af én repræsentant fra hvert EU-land og to fra Kommissionen.

Ifølge Kommissionens forslag skal centret kunne påbegynde sit arbejde i

2024-2026. Kommissionen forventer, at centret vil kunne være fuldt operatio-

nelt senest i 2030.

III. Beskyttelse af grundlæggende rettigheder ved opsporing

Forslaget sigter ifølge Kommissionen på at sikre en rimelig balance mellem

beskyttelsen af de forskellige involverede parters grundlæggende rettigheder.

Det gælder både børnenes, tjenesteydernes og brugernes rettigheder.

Men forslaget vil ifølge Kommissionen indebære visse begrænsninger i de

grundlæggende rettigheder for især brugerne af onlinetjenester til respekt for

privatlivets fred herunder til kommunikationshemmeligheden og beskyttelsen

af personoplysninger. Selvom disse rettigheder er vigtige, er de ifølge Kom-

missionen ikke absolutte, men skal som fastslået af EU-Domstolen ses i

sammenhæng med deres funktion i samfundet

Hertil kommer, at forebyggelse og bekæmpelse af seksuelt misbrug af børn

ifølge Kommissionen udgør et mål af almen interesse anerkendt af EU, som

ifølge EU’s Charter for grundlæggende rettigheder kan begrunde, at man ind-

fører begrænsninger i udøvelsen af EU’s grundlæggende rettigheder og frihe-

der

. Forslaget skal dog ifølge charteret respektere disse rettigheders væ-

sentligste indhold og overholde proportionalitetsprincippet

Kommissionen lægger derfor med sit forslag op til, at den foreslåede kontrol

skal være begrænset til, hvad der er strengt nødvendigt for at imødegå ud-

nyttelsen af de forskellige tjenester til spredning af indhold med seksuelt mis-

brug af børn.

F.eks. skal udbyderne anvende sporingsteknologier, som er mindst muligt

indgribende over for brugernes ret til privatliv og familieliv. Hvis en tjeneste-

udbyder modtager et opsporingspåbud, vil udbyderen bl.a. kun kunne fore-

tage sporingen ved hjælp af indikatorer, som er verificeret og tilvejebragt af

Se EU-Domstolens dom i »La Quadrature du Net«, forenede sager C-511/18, C-512/18 og C-

520/18

–

præmis 120 og121.

Se artikel 52 i Den Europæiske Unions Charter for Grundlæggende rettigheder.

Side 6 | 9

DIU, Alm.del - 2023-24 - Bilag 20: EU-note 42 om bekæmpelse af seksuelt misbrug af børn online

det nye EU-center. Hertil kommer, at de anvendte opsporingsteknologier

alene må anvendes til at afsløre seksuelt misbrug af børn. Påbuddet om op-

sporing skal desuden være tidsbegrænset.

Endelig skal både tjenesteudbydere og brugere have lov til at anfægte en-

hver foranstaltning, som berører dem, ved en domstol

. En tjenesteudbyder

vil f.eks. have ret til at anfægte både et opsporingspåbud og et påbud om

fjernelse ved en domstol i den medlemsstat, hvor myndigheden, der har ud-

stedt påbuddet, er beliggende. Da fjernelse af en brugers materiale fra en tje-

neste også vil påvirke dennes rettigheder, er tjenesteudbyderen forpligtet til

at underrette brugeren om fjernelsen af dennes materiale, så denne kan ud-

nytte sin klageadgang.

Kritik af forslagets grundrettighedsbeskyttelse

På det seneste har en række forskellige aktører i EU advaret om, at forslaget

risikerer at svække beskyttelsen af grundlæggende rettigheder i EU, herun-

der beskyttelsen af privatlivets fred og kommunikationshemmeligheden. Bl.a.

sendte 114 civilsamfundsorganisationer den 8. juni et

åbent klagebrev

til

Kommissionen, hvor de kritiserer forslaget for at krænke privatlivets fred ved

at give private virksomheder og regeringer mulighed for at få direkte adgang

til privat kommunikation

–

herunder krypterede data.

Tilsvarende bekymringer deles af EU’s uafhængige vagthunde Den Europæi-

ske Tilsynsførende for Databeskyttelse (EDPS) og Det Europæiske Databe-

skyttelsesråd (EDPB), som i

en fælles udtalelse

fra den 28. juli i år har udtrykt

alvorlig bekymring for forslagets konsekvenser for beskyttelsen af privatlivets

fred og persondata. Bl.a. skriver de, at forslaget udgør en større risiko for in-

divider og samfundet end for de kriminelle, som forslaget retter sig imod.

De to vagthunde er særlig bekymrede for de foreslåede bestemmelser om at

kunne pålægge tjenesteudbydere at foretage screening efter nyt børneporno-

grafisk indhold eller spore forsøg på hvervning af børn (grooming) i beskeder

på kommunikationstjenester.

De vurderer, at især bestemmelserne om screening efter »grooming« går ud

over, hvad der er strengt nødvendigt og proportionalt, og derfor bør slettes,

da de ikke respekterer det væsentligste indhold i brugernes grundlæggende

Anvendelsesperioden for et påbud om opsporing af kendt eller nyt materiale må ifølge art. 7

ikke overstige 24 måneder, mens anvendelsesperioden for påbud om sporing af hvervning af

børn ikke må overstige 12 måneder.

Behandlingen skal ske ved en domstol i den medlemsstat, hvor den kompetente retslige myn-

dighed eller den uafhængige administrative myndighed, der har udstedt påbuddet om spærring,

er beliggende.

Side 7 | 9

DIU, Alm.del - 2023-24 - Bilag 20: EU-note 42 om bekæmpelse af seksuelt misbrug af børn online

ret til privatliv og databeskyttelse i henhold til artikel 7 og 8 i Den Europæiske

Unions Charter om grundlæggende rettigheder.

EDPB-EDPS Joint Opinion 04/2022 on the proposal for a regulation to pre-

vent and combat child sexual abuse.

»As regards the necessity and proportionality of the envisaged detection

measures, the EDPB and EDPS are particularly concerned when it comes to

measures envisaged for the detection of unknown child sexual abuse material

(‘CSAM’) and solicitation of children (‘grooming’) in interpersonal communication

services. Due to their intrusiveness, their probabilistic nature and the error rates

associated with such technologies, the EDPB and EDPS consider that the inter-

ference created by these measures goes beyond what is necessary and propor-

tionate. Moreover, measures permitting the public authorities to have access on

a generalised basis to the content of a communication in order to detect solicita-

tion of children are more likely to affect the essence of the rights guaranteed in

Articles 7 and 8 of the Charter. Therefore, the relevant provisions related to

grooming should be removed from the Proposal.«

Endelig har også den tyske regering udtrykt bekymring for, om forslaget vil

medføre unødige begrænsninger i borgernes grundlæggende rettigheder til

privatliv og kommunikationshemmelighed. Den tyske regering skriver i en

henvendelse til Kommissionen, at

»kommunikationshemmeligheden, et højt

databeskyttelsesniveau, et højt cybersikkerhedsniveau og universel end-to-

end kryptering er helt essentielle krav for Tyskland. Det er vigtigt, at bekæm-

pelse og forebyggelse af deling af materiale, som viser seksuelt misbrug af

børn, er i overensstemmelse med vore forfatningsmæssige standarder for

beskyttelsen af privat og hemmelig kommunikation.«

Den tyske regering har stillet ikke mindre end 61 opklarende spørgsmål til

Kommissionen om forslaget, som kan

læses her.

IV. Nærhedstjek af forslaget i Folketinget

Både Folketingets Europaudvalg og Retsudvalget har udvalgt forslaget som

et prioriteret forslag med henblik på at undersøge, om det overholder nær-

hedsprincippet. Forslaget er udvalgt til nærhedskontrol, som følge af at det er

et politisk væsentligt forslag på et område med delt kompetence mellem EU

og medlemsstaterne

Proceduren for nærhedskontrollen er beskrevet i Europaudvalgets beretning af 9. april 2010

om Folketingets behandling af EU-sager i forbindelse med kontrollen af nærhedsprincippet i

EU.

Side 8 | 9

DIU, Alm.del - 2023-24 - Bilag 20: EU-note 42 om bekæmpelse af seksuelt misbrug af børn online

Folketinget skal vurdere, om forslagets mål om at sikre udbydere af onlinetje-

nester på det digitale indre marked lige konkurrencevilkår og samtidig fore-

bygge og bekæmpe seksuelt misbrug af børn online i tilstrækkeligt omfang vil

kunne opnås gennem nationale tiltag i de enkelte EU-lande, eller om de

bedre kan nås gennem fælles regler på EU-niveau

Kommissionen mener ikke, at forslaget er i strid med nærhedsprincippet.

Dette begrunder Kommissionen med, at udbyderne ofte opererer på tværs af

landegrænserne i EU, og at nationale krav, som pålægges sådanne tjeneste-

udbydere for at bekæmpe seksuelt misbrug af børn online, blot vil øge frag-

menteringen af det indre marked. Det vil medføre betydelige overholdelses-

omkostninger og ikke være tilstrækkelig effektivt på grund af de pågældende

tjenesters grænseoverskridende karakter.

Folketinget har 8 uger til at behandle forslaget, fra det foreligger i alle sprog-

versioner. Forslaget blev offentliggjort den 11. maj 2022, men blev først til-

gængeligt på alle EU-sprog den 19. juli. Men i henhold til aftale med Kommis-

sionen tælles august ikke med i beregningen af de otte uger, da der her er

sommerferie i EU. Det betyder, at Folketinget skal have afsluttet sit nærheds-

tjek af forordningsforslaget senest den 25. oktober 2022.

TEU artikel 5, stk. 3.

Side 9 | 9