Lo que cree Microsoft del uso de reconocimiento facial en seguridad

El gigante tecnológico Microsoft rechazó una solicitud de una agencia legal en EE. UU. para instalar sistemas de reconocimiento facial en los autos y cámaras de oficiales atendiendo a preocupaciones de derechos humanos. Así lo reveló el presidente de la compañía, Brad Smith, durante una conferencia.

En un mundo en el que autoridades de diferentes países desean usar las ventajas de la inteligencia artificial para prevenir los crímenes, el temor de que esos sistemas  resulten discriminando a ciertas poblaciones por sesgos en los algoritmos ha llevado a que activistas, periodistas y expertos se opongan a esos sofisticados sistemas de vigilancia y monitoreo. 

Según el directivo de Microsoft, el uso de esos sistemas podría llevar a detenciones e interrogatorios de mujeres y poblaciones minoritarias inocentes de manera desproporcionada porque la inteligencia artificial ha sido entrenada en imágenes principalmente con hombres blancos. 

"Cada vez que detuvieron a alguien, querían hacer un escaneo facial" contra una base de datos de sospechosos, dijo Smith sin detallar el nombre de la agencia legal de California. Después de analizar el impacto desigual, "dijimos que esta tecnología no es su respuesta".

Hablando en una conferencia de la Universidad de Stanford sobre "inteligencia artificial centrada en el hombre", Smith dijo que Microsoft también había rechazado un acuerdo para instalar el reconocimiento facial en las cámaras que cubrían la ciudad capital de un país, sin detallar el nombre, al que la organización sin fines de lucro Freedom House no había considerado como libre. Para Smith el uso del sistema de Microsoft habría podido ser usado para suprimir la libertad de reunión en ese lugar.

Sin embargo, Microsoft acordó entregar su tecnología a una prisión estadounidense al evaluar que dado que se trata de un ambiente limitado, el sistema mejoraría la seguridad dentro de la institución, que también conservó anónima.

Según Smith las decisiones de la empresa hacen parte de un compromiso con los derechos humanos, que según dijo era cada vez más crítico en un momento en el que los rápidos avances tecnológicos permiten a los gobiernos llevar a cabo una vigilancia masiva e indiscriminada o desplegar armas autónomas, entre otras medidas que podrían resultar imposibles de revertir.

Así mismo hizo un llamado a los clientes para que sean transparentes sobre la forma en que pretendían usarlo. A pesar del pronunciamiento, Smith se abstuvo de descartar las ventas a la policía.

REDACCIÓN TECNÓSFERA*

*Con Reuters.