"Historiskt", skriver Thierry Breton, EU-kommissionär med ansvar för den inre marknaden, på det sociala nätverket X.
"EU blir den första kontinent som sätter tydliga regler för användningen av AI", tillägger han.
Även EU-kommissionens ordförande Ursula von der Leyen välkomnar uppgörelsen, som hon beskriver som unik på global nivå.
Inget generellt förbud
Det blir med de nya EU-reglerna inget generellt förbud mot AI-verktyg som använder ansiktsigenkänning, vilket EU-parlamentet tidigare har krävt. Men användandet av detta verktyg kommer att begränsas och bara tillåtas för vissa brottsbekämpande ändamål, enligt Thierry Breton.
Han tillägger att syftet med regelverket är att skydda människors och företags rättigheter utan att bromsa innovationer eller förhindra brottsbekämpningen med AI-verktyg.
Exakt hur regelverket – som ska vara implementerat i nationell lagstiftning 2025 – kommer att se ut är inte klart. Många detaljer kommer att preciseras på tjänstemannanivå.
Klart står dock klart att ett företag som bryter mot reglerna kan få böta 35 miljoner euro eller upp till 7 procent av företagets globala omsättning.
Förslaget var klart sent på fredagen och har förhandlats fram av EU-kommissionen och företrädare för EU:s 27 medlemsländer samt en förhandlingsdelegation från EU-parlamentet i veckan.
Får inte exploatera minderåriga
Processen har snabbats på i skuggan av en snabb AI-utveckling, bland genom chattroboten Chat GPT.
En av stötestenarna i förhandlingarna var hur tjänster med breda användningsområden som Chat GPT ska regleras. Bland vissa medlemsstater, som Frankrike och Tyskland, fanns en oro för en alltför tuff reglering som skulle kunna hämma europeiska aktörer.
I den uppgörelse som nu har träffats finns bland annat krav på att företag som säljer AI-verktyg med bredare tillämpningsområden ska redovisa hur deras språkmodeller fungerar. Appar som kan definieras som en systemrisk måste samarbeta med EU-kommissionen om hur dessa risker ska begränsas.
Det blir även förbud mot användandet av AI för social rangordning och mot AI-system som manipulerar människor och begränsar den fria viljan.
Regelverket ska även skydda mot användande av AI för att exploatera minderåriga, människor med funktionshinder eller ekonomiskt utsatta grupper.
För att regelverket ska träda i kraft krävs formellt klartecken från EU:s regeringar på ministernivå samt EU-parlamentet. Brando Benifei, italiensk parlamentariker, säger till AP att det i praktiken är en formalitet eftersom parterna är överens.