en un
Entrada en el blog El miércoles, Rumman Chowdhury, director de ingeniería de software del equipo de ética, transparencia y responsabilidad del aprendizaje automático de Twitter, escribió que la compañía concluyó que el algoritmo estaba sesgado después de probar el sesgo basado en el género y la raza.La posición y
Trabajo de investigación adjunto Detallaba cómo el sistema de cultivo probó imágenes vinculadas aleatoriamente de personas de diversas razas y géneros, por ejemplo, la preferencia de los blancos por los negros y la preferencia de los blancos por los hombres.
La conclusión de Twitter se alcanzó unos meses después de la fundación de la empresa.
Dijo que investigará el algoritmoY es otro ejemplo más de cómo las desviaciones pueden extenderse a los sistemas informáticos diseñados para realizar tareas en las que los humanos suelen ser buenos.
Chowdhury escribió: “Consideramos el compromiso entre la velocidad y la consistencia de la siembra automatizada y los riesgos potenciales que vimos en este estudio”. “Una de nuestras conclusiones es que no todo en Twitter Ambos son adecuados para usar algoritmos. En este caso , cómo recortar la imagen es la mejor decisión para las personas “.
En marzo, Twitter comenzó a probar una nueva forma en la que cuando los usuarios publican una sola imagen en Twitter, la imagen puede mostrar la imagen completa en el dispositivo móvil en lugar de una versión de vista previa recortada automáticamente. La empresa declaró que después de recibir comentarios positivos,
Lanzó la función a todos sus usuarios de iOS y Android en mayo. (Sin embargo, recortará imágenes muy largas o muy anchas).
Un portavoz de Twitter le dijo a CNN Business el miércoles que este cambio apareció por primera vez en la aplicación móvil de Twitter porque así es como la mayoría de la gente tuitea y ve imágenes en Twitter.
Cuando se utiliza un algoritmo de recorte de imágenes, cada vez que un usuario publica una imagen en Twitter, el sistema automatizado recorta una versión de vista previa de la imagen para que el espectador pueda hacer clic para ver la imagen a tamaño completo. Twitter declaró en una publicación de blog en 2018 que anteriormente usaba la detección de rostros para ayudar a descubrir cómo recortar una imagen para obtener una vista previa.
Sin embargo, el software de detección de rostros es propenso a errores. La empresa abandonó este enfoque y, en su lugar, colocó su software en la denominada “prominencia” de la imagen, o el área que la persona que ve la imagen general consideraba más interesante. Estudie la prominencia siguiendo los ojos de las personas; por ejemplo, tendemos a interesarnos en cosas como personas, animales y texto.
En septiembre pasado, después de numerosos tuits criticando a la empresa, se le pidió a la empresa que estudiara su método algorítmico para recortar imágenes.Incluido un usuario del usuario de Twitter @bascule, que el 19 de septiembre
Pío“Prueba un experimento terrible … ¿Cuál elegirá el algoritmo de Twitter: Mitch McConnell o Barack Obama?” Además de su texto, hay dos imágenes rectangulares largas. La primera foto es una foto de McConnell, el líder mayoritario del Senado de los Estados Unidos, con blanco en la parte superior, un rectángulo blanco delgado en el medio y una foto del expresidente Obama (negro) en la parte inferior. El segundo es todo lo contrario, con Obama en la parte superior y McConnell en la parte inferior. Cuando se utiliza el algoritmo de recorte de imágenes de Twitter, la versión de vista previa de imágenes en paralelo solo muestra a McConnell.
Hace un día, otro usuario de Twitter @colinmadland,
Notado Al igual que en el resultado de la vista previa, cuando publicó una foto que decía que era blanco, junto a él había una foto de un hombre negro que asistía a una reunión en línea; la vista previa de Twitter estaba predeterminada para mostrar solo a los blancos.
La respuesta de la empresa a @bascule en ese momento
Pío Antes de lanzar la función de vista previa, no encontró evidencia de sesgo racial o de género durante las pruebas, pero dijo que investigaría si hay problemas con el algoritmo de recorte.
En una publicación de blog de Twitter el miércoles, Chowdhury escribió que eliminar el uso de algoritmos para recortar imágenes reduce la dependencia de la empresa del aprendizaje automático (una tecnología de inteligencia artificial en la que las computadoras se educan a sí mismas atravesando datos). Las personas que usan nuestros productos obtienen mejores resultados. “
Un portavoz de Twitter dijo que la compañía planea descargar el algoritmo de recorte de imágenes en el sitio web Twitter.com en los próximos meses. El algoritmo también se puede utilizar de varias otras formas, como cuando una persona tuitea varias imágenes; el portavoz dijo que Twitter también está trabajando para mejorar estos usos.
