Nu har resultatet kommit från en tävling som Twitter anordnade för att hitta datapartiskhet i mikrobloggens AI-styrda fotobeskärningssystem, rapporterar The Verge.

Företaget stängde tidigare av funktionen i mars efter att användare uppmärksammat att det verkade som verktyget prioriterade vita ansikten före svarta vid fotobeskärningar.

Det högst rankade resultatet från tävlingen visar också på detta samt att Twitters algoritm prioriterar ”smala, unga, med ljus eller varm hudfärg och slät hy och med stereotypiskt feminina ansiktsdrag.”

Andra- och tredjeplatsen visade på att systemet också var partiskt mot personer med vitt eller grått hår och föredrar engelsk före arabiskt text i bilder.

Patrick Hall, en av tävlingens domare, vidhöll att partiskhet förekommer i alla AI-system och att företag behöver jobba proaktivt för att hitta dem.

Läs också: Så kan hackare förgifta modeller för maskininlärning