Lagförslaget, som presenterades i Bryssel under onsdagen, har som mål att "förvandla Europa till ett globalt nav för tillförlitlig artificiell intelligens". Under presentationen upprepade Vestager vikten av att EU nu använder regelverket för både företagens men också människornas bästa:

– Min största oro vad gäller AI är att vi inte använder den alls. Det vore synd.

Vestager var dock tydlig med att det för alla aktörer gäller att följa de tänkta reglerna och vara väldigt noga med hur man applicerar tekniken. Delar av AI-området har tidigare kritiserats för att vara dåligt på att korrekt uppfatta saker som kön och etnicitet.

– Är det så att man har ett system som exempelvis bara har data på kvinnor så använd det då bara på kvinnor, inte på män.

EU-kommissionens lagförslag lutar sig till största delen mot en indelning i fyra riskkategorier. Den potentiellt allvarligaste definieras som oacceptabel risk – dit hör AI som manipulerar mänskligt beteende för att kringgå personers fria vilja såväl som AI använd till att bedöma "social status". Den här typen av AI ska enligt lagförslaget förbjudas.

"Skjuter med hagelbössa"

EU-parlamentarikern Jörgen Warborn (M), som sitter i det så kallade AI-utskottet, välkomnar lagförslaget i stort.

– Det jag hunnit se är bra. Jag tycker att det var en liten seger att det blev de här olika kategorierna. Nu skjuter man inte med hagelbössa mot all utveckling, säger han.

Under den allvarligaste riskkategorin finns det som bedöms som högriskområden, dit hör exempelvis ansiktsigenkänning, så kallad biometrisk igenkänning. Högriskområden föreslås lyda under strikta krav på säkerhet, integritet och möjlighet till transparens.

Lagförslaget understryker att storskalig aktiv övervakning av personer, exempelvis ansiktsigenkänning via övervakningskameror, är ett högriskområde och något som bör förbjudas. Däremot kommer undantag att kunna göras för exempelvis rättsväsendet i olika fall, däribland vid misstänkt terrorbrott.

Uppförandekod

De två mildaste riskkategorierna, begränsad risk och lågrisk, föreslås inte omfattas av lika hårda krav. Begränsad risk kan exempelvis handla om en meddelanderobot på ett företags hemsida och lågrisk kan vara ett spamfilter.

För användning av AI som inte utgör högrisk eller värre föreslås också en frivillig uppförandekod.

Aktörer som upprepade gånger bryter mot de nya lagarna kan bland annat förvänta sig böter på ett par procent av den globala årsinkomsten.

"Tidigast 2023"

Jörgen Warborn påpekar att lagförslaget inte klubbas igenom i detta nu.

– Jag skulle säga tidigast 2023.

Huruvida det i slutändan blir en ny riktning för lagförslaget, som ska igenom såväl EU-parlamentet och EU-rådet, eller den existerande fyragradiga riskskalan återstår att se. Warborn hoppas dock att medlemsländerna inte reglerar för mycket och sätter käppar i hjulet för utvecklingen:

– AI är raketen som leder oss in i framtiden. Vi kan inte tanka den med bromsolja.