Datorforskare vid Carnegie Mellon University har gjort en närmare undersökning av ett AI-fel som inträffade på Youtube under juni 2020 och som klassade den populära schack-kanalen Agadmator's Chess Channel som "skadlig och farlig".
Kanal-ägaren Antonio Radic ska ha blivit blockerad från Youtube i samband med ett avsnitt med stormästaren Hikaru Nakamura. Youtube gav ingen närmare förklaring till blockeringen men kanalen var fullt återställd efter 24 timmar.
Misstolkats som rasistiskt språkbruk
Nu skriver The Independent att datorforskarna är rätt säkra på att kanelens återkommande prat om "svart mot vit" misstolkats av AI:n som rasistiskt språkbruk.
Forskarna ska ha låtit en toppmodern språkklassificerare gå igenom 680 000 kommenterar från fem populära schack-Youtube-kanaler varpå forskarna manuellt gick igenom 1000 kommentarer som klassats som hets mot folkgrupp.
Hela 82 procent av dessa visade sig vara felklassificerade på grund av att de använde ord som "svart", "vit", "anfall" och "hot", varav samtliga är vanligt förekommande termer inom schack.
Läs också: AI:n som kan tala med hundar
