Youtube、チェスのチャンネルを閉鎖　白・黒というコメントを人種差別と判定

100万人以上のチャンネル登録者数を誇る、チェス関連では世界最大級のYouTubeチャンネルが、2020年6月に突如「有害で危険なコンテンツを配信している」という理由で閉鎖されてしまいました。カーネギーメロン大学のコンピューター科学者の調査で、この不可解なチャンネル閉鎖は「AIが、チェスの白・黒という言葉を人種差別であると誤認してしまった」ことで起こってしまった可能性が高いとわかりました。

agadmatorことAntonio Radić氏は、チェスの盤面解説などを行うYouTubeチャンネルを運営しており、100万人以上のチャンネル登録者数を抱えています。2020年6月28日にRadić氏のチャンネルが、チェスプレイヤーのヒカル・ナカムラ氏が5度目のグランドマスターを獲得した盤面を解説したムービーを投稿した直後に突然YouTubeによって閉鎖されてしまいました。

アカウントとチャンネルは24時間後に復活。Radić氏は「ムービーではチェスの話しかしていなかったが、チェスの『白』駒と『黒』駒に言及していたことでBANされてしまったのかもしれない」と推測しました。なお、Radić氏は、記事作成時点でもYouTubeからチャンネル閉鎖に至った理由を説明されていないとのこと。

これを受けて、カーネギーメロン大学の言語技術研究所の研究者であるAshique KhudaBukhsh氏の率いる研究チームは、チェス関連の人気YouTubeチャンネル5つのムービーから抽出した68万件を超えるコメントを、ヘイトスピーチを自動選別できるようにトレーニングされた2種類のAIを使って選別しました。

研究チームがヘイトスピ－チと判断されたコメントから1000件をランダムにサンプリングし、手動でその中身を確認したところ、その82％に悪意のある表現が含まれていなかったとのこと。さらに誤判定されたコメントには、「白(White)」「黒(Black)」「攻撃(Attack)」「脅威(Threat)」など、チェスの世界でよく使われる用語が含まれていたことが判明しました。
https://gigazine.net/news/20210222-youtube-ai-chess-racism/