I somras tog IBM hem ett stort avtal med brittiska myndigheter värt över 750 miljoner kronor för att utveckla en nationell biometriplattform, som bland annat ska erbjuda rättsvårdande myndigheter funktioner för ansiktsigenkänning. Det avslöjas i en granskning av The Verge och brittiska Liberty Investigates.
Nu får IBM kritik för avtalet, eftersom företaget för tre år sedan ställde ut löften om att inte bidra till att ansiktsigenkänning används till sådant som massövervakning.
Det var i kölvattnet av Black Lives Matters-protesterna 2020 som IBM:s vd Arvind Krishna i ett brev till den amerikanska kongressen skrev att ”IBM motsätter sig bestämt och kommer inte att tolerera användning av någon teknik, inklusive ansiktsigenkänningsteknik som erbjuds av andra leverantörer, för massövervakning, rasprofilering, brott mot grundläggande mänskliga rättigheter och friheter eller något annat syfte som inte överensstämmer med våra värderingar och principer om förtroende och transparens.”
Nu menar kritiker att IBM bryter mot tidigare utsagor med det nya avtalet. Plattformen ska medge att foton på individer matchas mot en databas med bilder, något som kallas ett”one to many”-system. Just den typen av system ska IBM själva ha pekat ut som ett verktyg för massövervakning och rasprofilering 2020.
– Forskningen världen över är tydlig: det finns ingen tillämpning av ansiktsigenkänning som är förenlig med mänskliga rättigheter, och företag – däribland IBM – måste därför upphöra med försäljningen och respektera sina tidigare uttalanden om att avveckla dessa verktyg, säger Matt Mahmoudi på Amnesty International till The Verge.
IBM å sin sida menar att man inte bryter mot sina tidigare löften.
– IBM erbjuder inte längre ansiktsigenkänning för allmänt bruk och i enlighet med vårt åtagande från 2020 stöder vi inte användningen av ansiktsigenkänning för massövervakning, rasprofilering eller andra brott mot mänskliga rättigheter, säger företagets talesperson Imtiaz Mufti till The Verge.
– Home Office Biometrics Matcher Platform och tillhörande tjänstekontrakt används inte för massövervakning. Det hjälper polis och immigrationsmyndigheter att identifiera misstänkta i en databas med fingeravtryck och fotodata. Den kan inte ta emot video, vilket vanligtvis skulle behövas för att stödja biometrisk användning av ansikten i en folkmassa.