EU Artificial Intelligence Act
- 3 minute read
- Jura & Selskabsret
Kunstig intelligens bliver mere og mere integreret i hverdagen for både forbrugere og virksomheder og bruges til alt fra behandling af kræft til oversættelsesværktøjer eller til at vise dig relevante annoncer.
Det er overflødigt at sige, at der er behov for klare regler om AI for at gøre det nemmere at navigere i dette “new normal”. Det er grunden til, at AI Act blev introduceret i Den Europæiske Union som en normativ ramme til at styre og afbøde risikoen for AI.
Highlights
The AI Act blev vedtaget i Europa-Parlamentet den 13. marts 2024 og blev godkendt af EU-rådet den 21. maj 2024.
Loven forventes offentliggjort i EU’s Tidende til sommer 2024, og 20 dage efter offentliggørelsen træder den i kraft.
Risikobaseret tilgang: Reglerne vil påvirke AI-værktøjer forskelligt afhængigt af værktøjernes potentiale for at forårsage skade.
Udviklere, distributører, leverandører, importører og brugere af kunstig intelligens vil blive påvirket på en eller anden måde.
Medlemslandene vil være ansvarlige for at træffe foranstaltninger vedrørende kontrol, og der vil blive oprettet et AI-kontor i Europa-Kommissionen.
Sanktioner for manglende overholdelse vil være op til 35.000.000 EUR eller 7 % af en virksomheds årlige omsætning – hvad end der er højere.
Hvad er baggrunden for AI Act?
AI Act skal regulere brugen af kunstig intelligens og sikre, at AI-systemer bruges på måder, der respekterer europæiske værdier og regler.
AI er uundgåeligt for innovation og spiller allerede en stor rolle i mange samfund. At præsentere en europæisk holdning til kunstig intelligens har til formål at sikre tillid og gennemsigtighed vedrørende offentlig brug af kunstig intelligens, fremme innovation og demokratisere kunstig intelligens. For at gøre det sætter loven grænser for, hvornår AI kan og ikke kan anvendes, men uden at begrænse innovation og fair konkurrence.
Initiativet har en human-centered tilgang og vil påvirke alle brancher og alle typer kunstig intelligens.
Hvem vil AI Act gælde for?
AI-loven kommer til at påvirke bredt, og følgende kan forventes at blive direkte påvirket:
- Alle virksomheder og organisationer i og uden for EU, hvis AI-værktøjet er tilgængeligt på EU-markedet, eller hvis brugen påvirker personer inden for EU.
- Udviklere, distributører, leverandører, importører og brugere af kunstig intelligens.
- Følgende brancher vil blive ekstra berørt:
- Finansiering og forsikring: Når AI bruges til at bestemme forsikringspræmier eller kreditvurdering.
- Sundhed: Når AI bruges i medicinsk udstyr eller behandlingssystemer.
- Fremstilling: Når kunstig intelligens bruges i maskiner, legetøj, gas, olie og elevatorer.
- Transport: Biler, fly, tog, skibe, landbrugs- eller skovbrugskøretøjer, to- eller trehjulede køretøjer og droner.
- Kritisk infrastruktur: Drift, sikkerhed, miljø, forurening og kontrolsystemer.
- Den offentlige sektor: Systemer, der bruges i sagsbehandlingen om menneskers sårbarhed eller til at fastlægge sociale ydelser.
Risiko-baseret tilgang
AI Act er lavet ud fra en risikobaseret tilgang. Det betyder, at den risiko, der er forbundet med at bruge et specifikt værktøj, vil bestemme niveauet af krav, der stilles til dette værktøj.
Uacceptabel risiko (forbudt i EU): Social scoring, udnyttelse af en personers sårbarheder eller biometrisk profilering af personer. Disse værktøjer vil ikke få lov til at blive udviklet eller markedsføre i EU.
Høj risisko (overensstemmelsesvurdering): Brug af kunstig intelligens til at udpege specifikke personer i rekruttering (CV-scanning), strafbare handlinger eller asyl. Disse værktøjer omhandler kritisk infrastruktur og grundlæggende menneskerettigheder.
Begrænset risiko (gennemsigtighed): Brug af kunstig intelligens som personlige assistenter eller til kommercielle formål. Disse er de mest brugte værktøjer i EU og kan udvikles og bruges i overensstemmelse med gældende lovgivning uden yderligere juridiske forpligtelser. Brugerne skal dog gøres opmærksomme på, at de interagerer med AI, som en del af gennemsigtighedskravet.
Minimal risiko (frivilligt code of conduct): spamfiltre, videospil osv. En frivillig adfærdskodeks forventes at blive præsenteret af EU senere.
Generelle AI-modeller (f.eks. Generativ AI) kan bruges til at bygge ovenpå. Udviklere, der ønsker at videreudvikle sådanne modeller, skal have de nødvendige oplysninger for at sikre, at deres system er sikkert og i overensstemmelse med AI-direktivet. Derfor tvinger loven udbydere af sådanne modeller til at stille visse oplysninger til rådighed for downstream-systemudbydere.
Tidslinje for implementering af AI Act
13. marts 2024: AI Act blev vedtaget i Europa-Parlamentet med 523 stemmer for, 46 imod og 49 hverken for eller imod.
21. maj 2024: AI-loven blev godkendt af EU-rådet.
Maj/juni/juli 2024: AI-loven offentliggøres i EU’s officielle Tidende og træder i kraft 20 dage senere.
(+6 måneder) ~ januar 2025: Forbud træder i kraft (uaccepteret risiko).
(+12 måneder) ~ juni/juli 2025: Krav til generel AI (GPAI/GenAI) træder i kraft.
(+24 måneder) ~ juni/juli 2026: Krav til højrisikosystemer anført i bilag 3 træder i kraft.
(+36 måneder) ~ juni/juli 2027: Krav til højrisikosystemer anført i bilag 3 træder i kraft.
Manglende overholdelse
Et AI-kontor vil blive oprettet i Europa-Kommissionen. Dette kontor vil koordinere oprettelsen af forvaltningssystemer og relevante nationale myndigheder.
Bøderne for manglende overholdelse vil være op til 35.000.000 EUR eller 7 % af virksomhedens samlede globale årlige omsætning for det foregående regnskabsår – alt efter hvad der er højest. For SMV’er og startups vil den laveste af de to udgøre bøden.
Igen vil straffen være baseret på risikoniveauet forbundet med brugen af teknologien. Strafstrukturen er tier-baseret, og manglende overholdelse af artiklerne relateret til forbudt AI er den mest alvorlige.
Medlemslandene er ansvarlige for at træffe foranstaltninger vedrørende kontrol og håndhævelse på nationalt plan. I Danmark vil dette blive varetaget af Digitaliseringsstyrelsen.
