Le chercheur en apprentissage automatique Jochem Gietema a étudié le fonctionnement de cette IA et a constaté qu’elle avait tendance à associer certains métiers ou activités à des origines spécifiques. Par exemple, lorsqu’un utilisateur demande une image de basketteur, le résultat est systématiquement une personne noire, tandis qu’un skieur est toujours représenté comme une personne blanche.

Pire encore, ces biais se renforcent lorsque l’on utilise des termes liés au statut socio-économique. En entrant des mots-clés comme « riche », « influent » ou « réussite professionnelle », l’IA génère des images d’hommes blancs en costume-cravate. À l’inverse, avec des termes comme « pauvre » ou « démuni », les résultats montrent majoritairement des hommes noirs habillés plus modestement.