Post

¿Es racista la IA de recorte de Twitter?

Polémica en la redes


El fin de semana la red social Twitter fue altamente cuestionada, debido a que la inteligencia artificial de su algoritmo de recorte tiende a elegir por encima de la tez negra, a la blanca. Algo que resultó alarmante y fue tildado de racismo.

Por su parte, Twitter plantea que la funcionalidad de esta aplicación es realizar un recorte automático para evitar se ocupe un espacio demasiado grande, y permitir que en un mismo tweet se muestren varias imágenes.

Sin embargo, tal parece que esta funcionalidad no cumplió con los requerimientos del usuario Colin Madland, usuario de Twitter, quien criticó que el software de recorte y previsualización de imágenes de la aplicación solamente lo enfocaba a él, por encima de su compañero con quien realizaba una videollamada vía Zoom.

Ante lo curioso de la aplicación, Colin subió a la red varias imágenes con distintas orientaciones para verificar si se repetía o no el mismo patrón, para sorpresa de los tuiteros la IA favorecía a las personas de piel blanca.

Muchos usuarios se dieron a la tarea de realizar pruebas, entre una de las más resaltantes está la hecha por @bascule, este usuario colgó una imagen comparativa entre Mith McConnel y el expresidente de los EE.UU. Barack Obama, donde por defecto la aplicación impuso en par de ocasiones la del senador republicano Mith McConnel, causando revuelo.

Esta situación dio cabida a los memes, lo cuales no se hicieron esperar.

Uno de ellos se orientó a Los Simpson, donde se compararon a Carl y a Lenny. La aplicación escogió el sesgo blanco de Lenny por encima de Carl.

Sin embargo, para otros esta particularidad no es del todo cierta, tuiteros indicaron que la selección de tez puede verse influenciada por los pixeles, en el cual da prioridad a los más claros, defendiendo el algoritmo. Otros en su minoría expresaron que si se sonreía, se podría elegir indistintamente del tipo de piel.

¿Qué dice Twitter al respecto?

Después de que muchos usuarios se dieran a la tarea de validar el racismo por parte de la aplicación y de arremeter en contra de la red social, la compañía pidió disculpas:

“Nuestro equipo probó el sesgo antes de enviar el modelo y no encontró evidencia de sesgo racial o de género en nuestras pruebas. Pero a partir de estos ejemplos queda claro que tenemos más análisis por hacer. Continuaremos compartiendo lo que aprendemos, las acciones que tomamos y abriremos nuestro análisis para que otros puedan revisar y replicar”.

Así pues, Twitter se plantea reevaluar su algoritmo de inteligencia artificial e invita a la comunidad a seguir manifestando este tipo de fallas para continuar mejorando y avanzando.

Fuente: TekCrispy


carabobo.net

carabobo.net

Tambien podes mirar

Tecnología

Facebook presenta un nuevo traductor

Tecnología

Deepfake o Ultrafalsos

Tecnología

Investigadores crean un elastómetro

Tecnología

Medicina personalizada: