Facebook segmente les publicités par race, âge basé sur les photos, selon une étude

3491204589399728101a397fcc620848.png

Une photo de deux publicités par ailleurs identiques, à gauche avec une femme blanche, à droite avec une femme noire.

L’annonce de gauche a été diffusée auprès de 56 % d’utilisateurs blancs. L’annonce de droite n’a été diffusée qu’à 29 % d’utilisateurs blancs. Les deux ont été exécutés en même temps, avec le même budget et les mêmes paramètres de ciblage.
Capture d’écran: Thomas Germain

La promesse de Facebook aux annonceurs est que son système est intelligent, efficace et facile à utiliser. Vous téléchargez vos annonces, remplissez quelques détails et l’algorithme de Facebook fait sa magie, parcourant des millions de personnes pour trouver l’audience idéale.

Le fonctionnement interne de cet algorithme est opaque, même pour les personnes qui travaillent chez Meta, la société mère de Facebook. Mais la recherche extérieure offre parfois un aperçu. Un nouveau étude, publié mardi dans les Actes de la 22e ACM Internet Measurement Conference, constate que Facebook utilise un logiciel de reconnaissance d’images pour classer la race, le sexe et l’âge des personnes photographiées dans les publicités, et que cette détermination joue un rôle énorme dans qui voit les publicités. Les chercheurs ont constaté que davantage d’annonces mettant en scène de jeunes femmes étaient diffusées auprès d’hommes de plus de 55 ans ; que les femmes voient plus de publicités avec des enfants ; et que les Noirs voient plus de publicités avec des Noirs.

Dans l’étude, les chercheurs ont créé des annonces pour des offres d’emploi avec des photos de personnes. Dans certaines publicités, ils ont utilisé des photos d’archives, mais dans d’autres, ils ont utilisé l’IA pour générer des images synthétiques identiques, à l’exception des données démographiques des personnes sur les images. Ensuite, les chercheurs ont dépensé des dizaines de milliers de dollars pour diffuser les publicités sur Facebook, en gardant une trace des publicités diffusées à quels utilisateurs.

Les résultats ont été spectaculaires. En moyenne, le public qui a vu les photos synthétiques de personnes noires était à 81 % noir. Mais lorsqu’il s’agissait d’une photo d’une personne blanche, l’audience moyenne n’était que de 50 % de Noirs. Le public qui a vu des photos d’adolescentes était composé à 57 % d’hommes. Des photos de femmes plus âgées ont été présentées à un public composé à 58 % de femmes.

L’étude a également révélé que les images d’archives fonctionnaient de manière identique aux images de visages artificiels, ce qui démontre que ce sont uniquement les données démographiques, et non d’autres facteurs, qui déterminent le résultat.

En supposant que le ciblage Facebook est efficace, cela peut ne pas poser de problème lorsque vous envisagez des publicités pour des produits. Mais « lorsque nous parlons de publicité pour des opportunités telles que l’emploi, le logement, le crédit, voire l’éducation, nous pouvons voir que les choses qui auraient pu très bien fonctionner pour vendre des produits peuvent conduire à des résultats sociétalement problématiques », a déclaré Piotr Sapiezynski, chercheur. à la Northeastern University, qui a co-écrit l’étude aux côtés du candidat au doctorat Levi Kaplan, du premier cycle Nicole Gerzon et du professeur Alan Mislove.

En réponse à une demande de commentaires, Meta a déclaré que la recherche met en évidence une préoccupation à l’échelle de l’industrie. « Nous développons une technologie conçue pour aider à résoudre ces problèmes », a déclaré Ashley Settle, porte-parole de Meta. « Nous avons fait des efforts considérables pour prévenir la discrimination sur notre plate-forme publicitaire et continuerons à impliquer les principaux groupes de défense des droits civiques, les universitaires et les régulateurs dans ce travail. »

Le ciblage publicitaire de Facebook par race et par âge n’est peut-être pas non plus dans l’intérêt des annonceurs. Les entreprises choisissent souvent les personnes dans leurs publicités pour démontrer qu’elles valorisent la diversité. Ils ne veulent pas que moins de Blancs voient leurs publicités simplement parce qu’ils ont choisi la photo d’un Noir. Même si Facebook sait que les hommes plus âgés sont plus susceptibles de regarder des publicités représentant des jeunes femmes, cela ne signifie pas qu’ils sont plus intéressés par les produits. Mais il y a des conséquences bien plus importantes en jeu.

« Apprentissage automatique, apprentissage en profondeur, toutes ces technologies sont conservatrices en principe », déclare Sapiezynski. Il a ajouté que des systèmes comme ceux de Facebook optimisent les systèmes en examinant ce qui a fonctionné dans le passé et supposent que c’est ainsi que les choses devraient se présenter à l’avenir. Si les algorithmes utilisent des hypothèses démographiques brutes pour décider qui voit les annonces de logement, d’emploi ou d’autres opportunités, cela peut renforcer les stéréotypes et consacrer la discrimination.

C’est déjà arrivé sur la plateforme de Facebook. Un 2016 ProPublica L’enquête a révélé que Facebook laissait les spécialistes du marketing cacher les annonces de logement aux Noirs et à d’autres groupes protégés en violation de la loi sur le logement équitable. Après l’intervention du ministère de la Justice, Facebook a cessé de laisser les annonceurs cibler les publicités en fonction de la race, de la religion et de certains autres facteurs.

Mais même si les annonceurs ne peuvent pas dire explicitement à Facebook de discriminer, l’étude a révélé que l’algorithme de Facebook pourrait le faire en se basant sur les images qu’ils mettent dans leurs publicités de toute façon. C’est un problème si les régulateurs veulent forcer un changement.

Settle, le porte-parole de Meta, a déclaré que Meta avait investi dans de nouvelles technologies pour résoudre son problème de discrimination en matière de logement et que l’entreprise étendrait ces solutions aux publicités liées au crédit et à l’emploi. La société aura plus à partager dans les mois à venir, a-t-elle ajouté.

Photos de visages de l'étude.

Les chercheurs ont créé des images presque identiques pour prouver que la démographie était le facteur décisif.
Capture d’écran: Thomas Germain

Vous pourriez regarder ces résultats et penser, « et alors? » Facebook ne publie pas les données, mais peut-être que les publicités avec des photos de Noirs fonctionnent moins bien avec un public blanc. Sapiezynski a déclaré que même si c’était vrai, ce n’était pas une justification raisonnable.

Dans le passé, les journaux séparaient les offres d’emploi par race et par sexe. Théoriquement, c’est efficace si les personnes qui embauchent ont des préjugés. « Peut-être que c’était efficace à l’époque, mais nous avons décidé que ce n’était pas la bonne façon d’aborder cela », a déclaré Sapiezynski.

Mais nous n’avons même pas assez de données pour prouver que les méthodes de Facebook sont efficaces. La recherche peut démontrer que le système publicitaire des plates-formes n’est pas aussi sophistiqué qu’ils veulent que vous le pensiez. « Il n’y a pas vraiment de compréhension plus profonde de ce à quoi sert réellement la publicité. Ils regardent l’image et créent un stéréotype de la façon dont les gens se comportaient auparavant », a déclaré Sapiezynski. « Cela n’a aucun sens, juste des associations grossières. Ce sont donc des exemples, je pense, qui montrent que le système ne fait pas réellement ce que veut l’annonceur. »

Correction : 27/10/2022 15h45 HE : La version originale de cette histoire a mal indiqué le nom de la revue où l’étude a été publiée.

Facebook
Pinterest
Twitter
LinkedIn
Email