DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Udvalget for Digitalisering og It 2023-24, Udvalget for Digitalisering og It 2023-24
DIU Alm.del Bilag 51, DIU Alm.del Spørgsmål 66
Offentligt

Ghost in the machine

Addressing the consumer harms of generative AI

Finn Lützow-Holm Myrstad, [email protected]

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Technology is

not neutral!

forbrukerradet.no

A computer made out of garbage, DALL-E

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

We must learn

from our social

media disaster

forbrukerradet.no

Social media platforms creating chaos, DALL-E

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Should we believe the hype?

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

March 2022

April 2023

Donald Trump and Barack Ob ama playing b asketball, Midjourney

https://twitter.com/ParkerMolloy /status/1637608097051967492/

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

https://www.makeuseof.com/ways-ai-hel p-fight-climate-change/

https://bigcloud.global/how-ai-can- help- alleviate-pov erty/

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

What is

generative AI?

Generates synthetic content by

analyzing training data.

Trained on enormous data sets

scraped from the internet.

Statistical analysis to generate

«probable» results that may

resemble human-created

content.

Can be used to generate text,

images, audio and video.

forbrukerradet.no

A photo of a consumer policy advisor writing a paper about the consumer challenges

of generative ai, in an open office plan, Stable Diffusion

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Concentration of power

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Opaque systems

and lack of

accountability

Opaque systems reduce

accountability

Actor chain transparency

Opaque systems exacerbate

consumer harms and hinder

consumer rights

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Inaccurate

information and

overconfidence

forbrukerradet.no

Source: https://www.health.com/chatgpt-therapy-mental-health-experts-weigh-in-7488513

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Bias and discrimination

forbrukerradet.no

https://www.bloomberg.com/graphics/2023-generativ e-ai-bias/

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Manipulation (personification)

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Manipulation (emotional)

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Manipulation (emotional)

forbrukerradet.no

Source: https://www.vice.com/en/article/y3py9j/ai-companion-replika-erotic-roleplay-

updates

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Manipulation (scams)

Source:

https://www.washingtonpost.com/technology/2023/03/05/ai-voice-scam/

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Security issues

https://www.forcepoint.com/blog/x-labs/z ero-day-exfiltrati on-usi ng-chatgpt-prom pts

https://www.vice.com/en/article/dy7axa/how-i-broke-into-a-bank- account-with-an-ai-generated-voice

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Privacy and data protection

Source:

https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Deepfakes

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Deepfakes

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Environmental

impact

https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

https://time.com/6247678/openai-chatgpt-k eny a-workers/

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Is all hope lost?

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

EU regulations

that are already

applicable:

•

Consumer law

•

Data protection law

•

General product safety law

•

Competition law

•

Anti-discrimination law +++

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

What is needed?

•

Enforcing existing laws and regulations

•

Robust government policies

•

New legislative measures

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Consumer

rights

principles

that are key

for safe and

responsible AI

Consumer rights must be respected. The onset of

generative AI must not undermine or displace

already established consumer- and human rights.

Consumers must have the

right to object

and to

an explanation.

Consumers must have a ‘right to be forgotten’ to

have personal data deleted from generative AI

models, to rectify harms from for example having

false information produced about them.

Consumers must have a right to interact with a

human instead of generative AI where this is

relevant.

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Consumer

rights

principles

that are key

for safe and

responsible AI

Consumers must have a

right to redress

and

compensation

for any damages suffered from the use of

generative AI.

Consumers must have a right to

collective redress,

and

to be represented by consumer organizations and other

civil society groups with exercising their rights.

Consumers must have a

right to complain

to supervisory

authorities or launch legal actions in court when use of a

generative AI model is in breach of the law.

Developers and deployers of generative AI models must

establish systems to ensure that these rights are

available to consumers in practice

forbrukerradet.no

DIU, Alm.del - 2023-24 - Spørgsmål 66: Spm. om anbefalingerne i det norske forbrugerråds rapport »Ghost in the Machine« m.v.

Thank you!

Get in touch:

[email protected]

or add me on LinkedIn.

forbrukerradet.no