I september 2020 observerade en universitets-anställd att när han postade två bilder på Twitter, föreställande han själv och en kollega, så prioriterade Twitters förhandsvisning av bilden alltid den vita personen före den svarta. Något som även upprepades med andra bilder som testades.

Twitter har sedan dess själva undersökt det hela och konstaterar nu att deras bildbeskärnings-AI mycket riktigt har varit partisk och prioriterat vita över svarta och kvinnor över män, rapporterar BBC

Enligt Twitter ska problemet vara en prioritetsalgoritm som släpptes under 2018 och som ska ha tränats på mänsklig ögonspårnings-data. Vad som orsakat problemet kan däremot bero på flera komplicerade faktorer.

Twitter säger att de nu börjat fasa ut det gamla systemet med en uppdatering till mobilappen som lovar att ge mer korrekta förhandsvisningar. Twitter kommer också ta bort den gamla bildskärnings-algoritmen från webbversionen av Twitter de kommande månaderna.

Läs också: Slack gör det möjligt att lägga till pronomen i profiler