DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Udvalget for Digitalisering og It 2023-24, Udvalget for Digitalisering og It 2023-24
DIU Alm.del Bilag 51, DIU Alm.del Spørgsmål 66
Offentligt

Ghost in the machine

Addressing the consumer harms of generative AI

Finn Lützow-Holm Myrstad, [email protected]

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Technology is

not neutral!

forbrukerradet.no

A computer made out of garbage, DALL-E

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

We must learn

from our social

media disaster

forbrukerradet.no

Social media platforms creating chaos, DALL-E

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Should we believe the hype?

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

March 2022

April 2023

Donald Trump and Barack Ob ama playing b asketball, Midjourney

https://twitter.com/ParkerMolloy /status/1637608097051967492/

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

https://www.makeuseof.com/ways-ai-hel p-fight-climate-change/

https://bigcloud.global/how-ai-can- help- alleviate-pov erty/

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

What is

generative AI?

Generates synthetic content by

analyzing training data.

Trained on enormous data sets

scraped from the internet.

Statistical analysis to generate

«probable» results that may

resemble human-created

content.

Can be used to generate text,

images, audio and video.

forbrukerradet.no

A photo of a consumer policy advisor writing a paper about the consumer challenges

of generative ai, in an open office plan, Stable Diffusion

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Concentration of power

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Opaque systems

and lack of

accountability

Opaque systems reduce

accountability

Actor chain transparency

Opaque systems exacerbate

consumer harms and hinder

consumer rights

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Inaccurate

information and

overconfidence

forbrukerradet.no

Source: https://www.health.com/chatgpt-therapy-mental-health-experts-weigh-in-7488513

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Bias and discrimination

forbrukerradet.no

https://www.bloomberg.com/graphics/2023-generativ e-ai-bias/

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Manipulation (personification)

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Manipulation (emotional)

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Manipulation (emotional)

forbrukerradet.no

Source: https://www.vice.com/en/article/y3py9j/ai-companion-replika-erotic-roleplay-

updates

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Manipulation (scams)

Source:

https://www.washingtonpost.com/technology/2023/03/05/ai-voice-scam/

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Security issues

https://www.forcepoint.com/blog/x-labs/z ero-day-exfiltrati on-usi ng-chatgpt-prom pts

https://www.vice.com/en/article/dy7axa/how-i-broke-into-a-bank- account-with-an-ai-generated-voice

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Privacy and data protection

Source:

https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Deepfakes

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Deepfakes

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Environmental

impact

https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

https://time.com/6247678/openai-chatgpt-k eny a-workers/

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Is all hope lost?

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

EU regulations

that are already

applicable:

•

Consumer law

•

Data protection law

•

General product safety law

•

Competition law

•

Anti-discrimination law +++

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

What is needed?

•

Enforcing existing laws and regulations

•

Robust government policies

•

New legislative measures

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Consumer

rights

principles

that are key

for safe and

responsible AI

Consumer rights must be respected. The onset of

generative AI must not undermine or displace

already established consumer- and human rights.

Consumers must have the

right to object

and to

an explanation.

Consumers must have a ‘right to be forgotten’ to

have personal data deleted from generative AI

models, to rectify harms from for example having

false information produced about them.

Consumers must have a right to interact with a

human instead of generative AI where this is

relevant.

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Consumer

rights

principles

that are key

for safe and

responsible AI

Consumers must have a

right to redress

and

compensation

for any damages suffered from the use of

generative AI.

Consumers must have a right to

collective redress,

and

to be represented by consumer organizations and other

civil society groups with exercising their rights.

Consumers must have a

right to complain

to supervisory

authorities or launch legal actions in court when use of a

generative AI model is in breach of the law.

Developers and deployers of generative AI models must

establish systems to ensure that these rights are

available to consumers in practice

forbrukerradet.no

DIU, Alm.del - 2023-24 - Bilag 51: Henvendelse af 29/11-23 fra Forbrukerrådet Norge med slides fra deres præsentation på DIU udvalgsmøde den 29/11-23

Thank you!

Get in touch:

[email protected]

or add me on LinkedIn.

forbrukerradet.no