INPRESSARIO

L'algorithme de recadrage de photos de Twitter attire l'attention sur un éventuel biais racial

septembre 21, 2020

En janvier 2020, Twitter a introduit un recadrage automatique de l'IA qui détecte la partie la plus intéressante de votre image et recadre l'image «aperçu» en conséquence. Cela fonctionne avec tout, des ailes d'avion aux humains, mais comme un ingénieur l'a montré au cours du week-end, il peut souffrir de certains préjugés inhérents.

Au cours du week-end, ingénieur cryptographique Tony Arcieri est devenu viral sur Twitter en signalant un problème gênant avec l'algorithme de recadrage automatique du réseau social. Dans ce qu'il a qualifié d '«expérience horrible», il a publié deux images différentes, chacune consistant en un portrait du chef de la majorité au Sénat Mitch McConnell et de l'ancien président Barack Obama.

Pour le contexte, ce sont les photos qu'il a utilisées, chacune d'environ 600 x 3000 pixels. Remarquez l'extrême quantité d'espace blanc entre la photo du haut et celle du bas:

"Comme [face] L'algorithme Twitter choisira-t-il: Mitch McConnell ou Barack Obama? »a demandé Arcieri. Dans ce cas particulier, en utilisant ces deux images, la réponse a toujours été McConnell, quel que soit l'ordre dans lequel les images sont empilées.

Voici le message original d'Arcieri, qui a été retweeté plus de 76 000 fois et aimé plus de 190 000 fois au moment de la rédaction de cet article:

Après que la publication soit devenue virale, Arcieri a mené quelques autres expériences pour tenter de répondre aux critiques et aux théories alternatives soulevées par les utilisateurs. Par exemple, le remplacement de la cravate rouge par une cravate bleue n'a pas changé le résultat:

Mais inverser les couleurs de l'image a fait:

Enfin, un autre utilisateur a montré que même si vous augmentez le nombre d'Obamas et supprimez tout espace blanc entre les images, la même chose se produit:

D'autres ont essayé d'inverser l'ordre dans lequel les images sont jointes, ou d'inverser l'ordre des noms dans le tweet lui-même, et aucune d'elles n'a fonctionné. Mais avec une autre photo d'Obama avec un sourire plus évident avec un contraste élevé fait ordre inverse à chaque fois:

Sans aucun doute, les expériences se poursuivront lorsque les gens essaieront d'analyser ce que l'algorithme met exactement en évidence et s'il doit être classé comme rasbias implicite. Pendant ce temps, Liz Kelley a répondu à Twitter Comms en remerciant Arcieri et le reste des personnes qui ont testé cela et ont reconnu qu'elles "avaient plus d'analyses à faire".

"Nous avons testé les préjugés avant d'envoyer le modèle et n'avons trouvé aucune preuve de préjugé racial ou de genre dans nos tests, mais il est clair que nous avons plus d'analyses à faire", a écrit Kelley dans un Tweet. "Nous ouvrons le code source pour notre travail afin que d'autres puissent le réviser et le répliquer."

(via Engadget)

INPRESSARIO

Inpressario est un projet d'entraide ouvert à tous.