IBM se rinde en el negocio del reconocimiento facial, ¿lo seguirán otras empresas?

El gigante del software IBM ha anunciado que está retirando del mercado ciertos productos de reconocimiento facial y ha pedido un “diálogo nacional” sobre el uso de la tecnología por parte de los organismos de aplicación de la ley de los Estados Unidos.

Esta medida, que se produce cuando las protestas mundiales contra el racismo y la brutalidad policial entran en su tercera semana, es un cambio notable en el enfoque de la empresa para hacer frente al reconocimiento. En noviembre de 2019, IBM dijo que “las prohibiciones generales de la tecnología no son la respuesta a las preocupaciones en torno a casos de uso específicos”.

Las fallas en la tecnología de reconocimiento facial están bien documentadas. Un estudio realizado en 2018 por investigadores del Instituto Tecnológico de Massachusetts y Microsoft reveló que las mujeres de piel oscura son identificadas erróneamente por esos sistemas el 35% de las veces.

“Los sistemas de reconocimiento facial tienen sesgos internos porque están formados principalmente por bibliotecas de rostros blancos”, dice Alison Powell, especialista en ética de los datos del Instituto Ada Lovelace del Reino Unido. “No reconocen bien las caras negras y marrones”.

Pero la solución no es entrenar al sistema con un conjunto de datos más diverso, dice Powell. “Aumenta la vigilancia sobre la gente negra y morena”.

Lea más: Es demasiado tarde para prohibir el reconocimiento de la cara, esto es lo que necesitamos en su lugar
La decisión de IBM, expuesta en una carta del CEO Arvind Krishna a los miembros del Congreso de los EE.UU., ha sido reportada por algunos medios como el fin de todo su negocio de reconocimiento de rostros, pero puede que no sea así.

Yoav Goldberg, del Instituto Allen para la Inteligencia Artificial de Israel, señala que la carta dice que IBM ya no ofrece software de “propósito general” para analizar rostros, lo que podría dejarle espacio para vender sistemas más personalizados. IBM se negó a comentar este artículo, diciendo que la carta de Krishna se sostiene por sí sola.

Independientemente de los detalles, el anuncio de alto perfil podría tener un impacto más amplio en el uso del reconocimiento de rostros, dice Frederike Kaltheuner, becaria de política tecnológica de la Fundación Mozilla.

A principios de este año, un borrador de documento de política sugirió que la Unión Europea estaba considerando una prohibición de cinco años de la tecnología, aunque la versión final publicada eliminó esta propuesta. “Si una empresa como IBM considera que el reconocimiento de la cara es demasiado problemático para ellos, esto debería volver a poner la idea de una moratoria en la agenda política de Europa”, dice Kaltheuner.

Más información: La reacción contra el reconocimiento de rostros ha comenzado, pero ¿quién ganará?
Varias ciudades estadounidenses, entre ellas San Francisco, Seattle y Oakland, ya han prohibido el uso del reconocimiento facial por parte de la policía, y un proyecto de reforma policial presentado por los demócratas estadounidenses esta semana prohibiría el uso de esta tecnología en las imágenes tomadas por cámaras de vigilancia.

La reacción pondrá presión sobre compañías como Amazon, que provee a las fuerzas policiales de EEUU de servicios de reconocimiento facial, para que reconsideren su enfoque. En 2018, la Unión Americana de Libertades Civiles demostró que el software de Amazon identificó incorrectamente 28 rostros en las fotografías policiales como miembros del Congreso, siendo las falsas coincidencias desproporcionadamente personas de color.

“El reconocimiento de rostros se ha visto afectado en el último año desde la perspectiva de las libertades civiles, lo que supone una violación de la privacidad y un alto riesgo de discriminación racial y de género”, afirma Nikita Aggarwal del Instituto de Internet de Oxford (Reino Unido). Eso puede significar que los sistemas ya no son comercialmente viables, dice.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio web utiliza cookies para que usted tenga la mejor experiencia de usuario. Si continúa navegando está dando su consentimiento para la aceptación de las mencionadas cookies y la aceptación de nuestra política de cookies, pinche el enlace para mayor información.plugin cookies

ACEPTAR
Aviso de cookies