Le nouveau CEO de la société, Arvind Krishna a annoncé au Congrès américain qu’IBM cessera de fournir des logiciels de reconnaissance faciale ou d’analyse et s’opposera à toute utilisation de ces technologies à des fins de surveillance de masse et de profilage racial rapporte Reuters. Le dirigeant a également appelé à la mise en place de nouvelles règles fédérales pour obliger les forces de l’ordre à assumer la responsabilité de leurs fautes.
Cette annonce intervient alors que les États-Unis et le monde sont aux prises avec des manifestations à grande échelle après l’assassinat de George Floyd par un policier de Minneapolis, et les appels croissants à une réforme de la police.
« IBM s’oppose fermement à l’utilisation de toute technologie, y compris la technologie de reconnaissance faciale proposée par d’autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits et libertés fondamentaux », a écrit Arvind Krishna dans une lettre adressée au Congrès, ajoutant « la technologie peut accroître la transparence et aider la police à protéger les communautés mais ne doit pas promouvoir la discrimination ou l’injustice raciale. »
CNBC a indiqué que les activités de reconnaissance faciale de Big Blue ne généraient pas de revenus importants. Une personne au courant du dossier a par ailleurs déclaré à Reuters que la firme d’Armonk se penchait depuis plusieurs mois sur ce sujet. Elle a indiqué qu’IBM assurerait si nécessaire le support de ces produits, ajoutant que la technologie de reconnaissance visuelle d’IBM sera limitée uniquement à la détection d’objets, et non à l’analyse et à l’identification faciales.
En 2018, le MIT attirait l’attention dans un rapport sur le fait que la technologie de reconnaissance faciale est plus souvent sujette aux erreurs lorsqu’il ne s’agit pas d’individus de races à peau claire. Dans ce cas, le risque d’erreur peut atteindre 34,07% contre 0,8% maximum pour un individu de race blanche.