EU-lagstiftare lägger grunden för AI-reglering

Lagstiftare säger att den banbrytande lagstiftningen syftar till att skydda grundläggande rättigheter och samtidigt främja konsumenternas förtroende och ansvarsfull vidareutveckling. Men den kommer sannolikt inte att träda i kraft förrän 2025.

Europaparlamentet röstade på onsdagen för att reglera användningen av artificiell intelligens (AI) över hela unionen. Omröstningen utgör startskottet för processen mot att anta en typ av reglering som är den första i sitt slag globalt.

LÄS ÄVEN: Varningen från Elon Musk: Pausa utvecklingen av AI

Lagförslaget syftar till att skydda grundläggande medborgerliga rättigheter och skydda mot AI-hot mot hälsa och säkerhet, samtidigt som det främjar innovation av tekniken.

Fyra risknivåer

Åtgärderna, som diskuterats sedan 2021 men accelererats av den snabba uppkomsten av populära AI-chatbotar som ChatGPT, kommer att klassificera AI-system enligt fyra risknivåer från minimal till oacceptabel.

De som bedöms utgöra de mest oacceptabla risknivåerna är så kallade sociala poängsystem som kan bedöma människor utifrån deras beteende eller utseende, och applikationer som ägnar sig åt subliminal manipulation av utsatta människor, inklusive barn.

Förutsägande verktyg som analyserar data för att förutse potentiella framtida förövare av brott anses också vara ett sådant område, medan lagstiftare också har utökat förbudet mot fjärransiktsigenkänning och biometrisk identifiering offentligt.

LÄS ÄVEN: Varningen: Hotet från AI överträffar pandemier och kärnvapen

Majoriteten av AI-system som redan har kommit in i människors vardag, inklusive videospel, skräppostfilter eller textgeneratorer som ChatGTP, faller inom låg- eller ingenriskkategorin.

– Vi vill inte ha massövervakning, vi vill inte ha sociala poäng, vi vill inte ha förutsägande polisarbete i Europeiska unionen, punkt. Det är vad Kina gör, inte vi, säger Dragos Tudorache, en rumänsk EU-parlamentsledamot som är med och leder arbetet med AI-lagen.

Dryga böter

Överträdelser kommer att kunna ge böter på upp till 30 miljoner euro eller sex procent av ett företags årliga globala intäkter, vilket i fallet med teknikföretag som Google och Microsoft kan uppgå till miljarder.

Det kommer att vara upp till EU:s 27 medlemsländer att upprätthålla reglerna, som lagstiftare hoppas att kraftfulla AI-utvecklare ska se som en konstruktiv ram inom vilken tekniken kan utvecklas på ett ansvarsfullt sätt snarare än godtyckliga begränsningar.

Unionens nya AI-lagar, som fortfarande behöver ett slutgiltigt godkännande från medlemsländer och parlamentariker, kommer sannolikt inte att träda i kraft förrän 2025, alltså efter nästa års val till Europaparlamentet.

LÄS ÄVEN: Man tog livet av sig på inrådan av AI – skulle hjälpa klimatkrisen