Nu har EU-parlamentet röstat igenom EU-kommissionens förslag till nya AI-regler, den så kallade AI Act. Men arbetet är långt i från klart, härnäst väntar förhandlingar mellan EU-länderna i ministerrådet för att få fram den slutgiltiga lagtexten. Ambitionen är att lagstiftningen ska vara färdig i höst.
TT rapporterar att en klar majoritet av parlamentets ledamöter, 499 mot 28 och 93 nedlagda, röstade ja till förslaget. De tillägg eller ändringar som föreslagits av olika partigrupper gick inte igenom. Exempelvis ville Moderaternas partigrupp att AI ska kunna användas för ansiktsigenkänning i realtid, något som de nya reglerna nu förbjuder.
– Jag har svårt att förstå hur man kan tycka att integriteten för en terrorist är viktigare än offren för ett terrordåd, sa EU-parlamentsledamoten Tomas Tobé, M, till TT inför omröstningen.
De nya reglerna stipulerar att AI-system regleras olika beroende på vilken riskklassificering de får. Arbetet med lagstiftningen har pågått sedan 2021 men fick göra något av ett omtag i våras efter genombrottet för generativ AI som Chat GPT.
Förslaget som EU-parlamentet nu röstat igenom innebär bland annat:
Ett fullständigt förbud mot att använda AI för biometrisk övervakning, känsloigenkänning och prediktiv övervakning. Att generativa AI-system som Chat GPT måste upplysa om att innehållet är AI-genererat. Och att AI-system som används för att påverka väljare ska anses utgöra hög risk.
– AI väcker många frågor – socialt, etiskt och ekonomiskt. Men nu är det inte dags att trycka på någon ”pausknapp”. Tvärtom handlar det om att agera snabbt och ta ansvar, säger EU-kommissonären Thierry Breton till Reuters.