Twitter compartió los resultados de un concurso para encontrar el sesgo en el algoritmo que usa para recortar las imágenes.
Los resultados demostraron lo advertido por los propios s hace algunos meses: el algoritmo utilizado por la plataforma favorece los rostros de personas de piel clara y jóvenes.
El concurso fue lanzado por algoritmo de recorte de imágenes, el que fue desactivado en marzo luego de que se comprobara que favorecía algunos rostros sobre otros.
En la convocatoria animaba a los s y a los hackers a que ayudaran a descubrir los potenciales daños que se pudieran generar.
De acuerdo con la compañía, los ganadores aportaron una “perspectiva novedosa para afrontar el problema de los daños no intencionados” y las vías de explotación que podrían existir en el algoritmo.
Uno de los ganadores del concurso mostró que el algoritmo “amplifica los sesgos del mundo real y las expectativas de belleza”, lo que evidenciaría las preferencias por los rostros de personas con la piel clara, cálida y suave, en especial aquellos que son más jóvenes y femeninos.
Otro de los seleccionados demostró que el algoritmo perpetuaba la marginación de ciertos grupos sociales, como los más adultos y las personas que viven con alguna discapacidad, quienes quedaban excluidos del recorte de fotos.
Si bien los resultados arrojados por el concurso pueden parecer desalentadores, demuestran la importancia y necesidad de que las compañías puedan abrir sus sistemas al público para que ayuden a luchar contra estos sesgos.
