I en intervju med BBC säger Margrethe Vestager, EU-kommissionär med ansvar för konkurrens och den digitala agendan, att hon oroar sig mer för hur AI förstärker fördomar och diskriminering än att mänskligheten utrotas.
– Förmodligen finns en risk men jag tror att sannolikheten är ganska liten. Jag tror att risken med AI snarare är att människor kommer att diskrimineras, att de inte kommer att ses som de personer de är, säger hon.
Särskilt pekar hon ut risker med att använda AI för att fatta beslut som påverkar enskildas ekonomi – som exempelvis när de ansöker om hypotekslån.
– Om det är en bank som använder det för att avgöra om jag kan få ett bolån eller inte, eller om det är socialtjänsten i din kommun, då vill du se till att du inte blir diskriminerad på grund av ditt kön eller din hudfärg eller ditt postnummer.
För att motverka de här riskerna behövs skyddsräcken i form av den kommande AI-lagen i EU framhåller hon. Förslaget till den nya lagen fick grönt ljus av Europaparlamentet i går, onsdag.