La iniciativa de Twitter para tener equidad algorítmica

Algunos algoritmos son señalados de promover la violencia y reforzar prejuicios raciales.

Twitter anunció el pasado viernes la suspensión permanente de la cuenta @realDonaldTrump, que tenía más de 88 millones seguidores. Foto: Andrew Gombert / EFE

SUBJEFA DIGITAL14.04.2021 16:51 Actualizado: 14.04.2021 16:51

Comentar

La red social Twitter dijo este miércoles que lanzará una iniciativa sobre "aprendizaje de máquinas responsable" que incluirá revisiones sobre la equidad algorítmica en su plataforma.

La empresa, con sede en California, dijo que el plan tiene como objetivo ofrecer más transparencia sobre su inteligencia artificial y abordar "los potenciales efectos dañinos de las decisiones algorítmicas".

(Le puede interesar: Diez apps para cuidar su salud)

La iniciativa surge en medio de una creciente preocupación por los algoritmos utilizados por los servicios en línea, que según algunos pueden promover la violencia, contenidos extremistas y reforzar los prejuicios raciales o de género.

"El uso responsable de la tecnología incluye el estudio de los efectos que puede tener a largo plazo", señalan en un blog Jutta Williams y Rumman Chowdhury, del equipo de ética y transparencia de Twitter.

(Además: La Alcaldía de Soacha usa videojuegos para atrapar delincuentes)

Cuando Twitter utiliza el aprendizaje de máquinas o aprendizaje automático, "puede afectar a cientos de millones de tuits al día y, a veces, la forma en que un sistema fue diseñado para ayudar podría empezar a comportarse de manera diferente a la prevista", explicaron.

El uso responsable de la tecnología incluye el estudio de los efectos que puede tener a largo plazo

Según los investigadores, la iniciativa busca "asumir la responsabilidad de nuestras decisiones algorítmicas" con el objetivo de lograr "la equidad y la justicia en los resultados".

"También estamos construyendo soluciones de aprendizaje de máquinas que sean explicables, para que se puedan entender mejor nuestros algoritmos, lo que los informa y cómo impactan en lo que (el ) ve en Twitter".

Williams y Chowdhury dijeron que el equipo compartirá sus hallazgos con investigadores externos. "Para mejorar la comprensión colectiva de la industria sobre este tema, ayudarnos a mejorar nuestro enfoque y hacernos responsables".

(Lea también: Abren convocatoria para formar 540 científicos de datos)

Esta estrategia de Twitter se produce tras una serie de controversias en el equipo de ética de inteligencia artificial de Google, que han provocado el despido de dos investigadores de alto nivel y la dimisión de un científico de alto rango.