【痛恨】YouTubeのAIさん、チェスの「白・黒」を人種差別として登録者100万人のチャンネルをBANするミス

https://gigazine.net/news/20210222-youtube-ai-chess-racism/
YouTubeのAIがチェスの「白・黒」を人種差別だと誤判定してチャンネルを閉鎖した疑い

100万人以上のチャンネル登録者数を誇る、チェス関連では世界最大級のYouTubeチャンネルが、2020年6月に突如「有害で危険なコンテンツを配信している」という理由で閉鎖されてしまいました。
カーネギーメロン大学のコンピューター科学者の調査で、この不可解なチャンネル閉鎖は「AIが、チェスの白・黒という言葉を人種差別であると誤認してしまった」ことで起こってしまった可能性が高いとわかりました。

agadmatorことAntonio Radi?氏は、チェスの盤面解説などを行うYouTubeチャンネルを運営しており、100万人以上のチャンネル登録者数を抱えています。
2020年6月28日にRadi?氏のチャンネルが、チェスプレイヤーのヒカル・ナカムラ氏が5度目のグランドマスターを獲得した盤面を解説したムービーを投稿した直後に突然YouTubeによって閉鎖されてしまいました。

これを受けて、カーネギーメロン大学の言語技術研究所の研究者であるAshique KhudaBukhsh氏の率いる研究チームは、チェス関連の人気YouTubeチャンネル5つのムービーから抽出した68万件を超えるコメントを、ヘイトスピーチを自動選別できるようにトレーニングされた2種類のAIを使って選別しました。

研究チームがヘイトスピ－チと判断されたコメントから1000件をランダムにサンプリングし、手動でその中身を確認したところ、その82％に悪意のある表現が含まれていなかったとのこと。
さらに誤判定されたコメントには、「白(White)」「黒(Black)」「攻撃(Attack)」「脅威(Threat)」など、チェスの世界でよく使われる用語が含まれていたことが判明しました。