大澤昇平さん、出番です！
https://news.yahoo.co.jp/articles/28a6fb3d4853777c33a3e63807396737df15425f
フェイスブックがAI（人工知能）を活用した、ヘイトスピーチを拡散する「ミーム（Meme）」の追放に乗り出した。
同社はヘイトとみなされるミームの1万件のデータセットを構築し、このデータを用いてミーム内のヘイトスピーチを検出するアルゴリズムを作成した開発者に総額10万ドルの懸賞金を授与しようとしている。
ミームはもともと、社会科学分野の用語だったが、最近ではSNSで投稿される文字を入れた画像やGIFアニメがミームと呼ばれるようになった。
近年のミームの代表的な事例にあげられるのが、オルタナ右翼や白人至上主義者たちが用いる「OK」のハンドサインだ。
親指と人差し指で輪を作るサインは、本来はOKの意味しか持たなかったが、2017年にホワイトハウスの記者会見室でオルタナ右翼の著名人がOKハンドサインとともに写真に写ったことを契機に、ヘイトのシンボルとして用いられるようになった。
略
有害なミームの検出を自動化するためには、アルゴリズムにその構造を理解させ、コンテンツの組み合わせを分類するツールを生み出す必要がある。
現状で最も優れたディープラーニングモデルが、ミームのヘイトの発見に成功する確率は64.7％だという。これに対し、人力での成功率は84.7％とされている。
フェイスブックは、人種や国籍、宗教や性別、性的嗜好などの個人の特性を、直接的もしくは間接的に攻撃する行為をヘイトと定義している。
同社が今回、ヘイトの事例としてまとめたデータセットには、既存のミームのほかに新たに作成されたオリジナルのものが含まれている。
チャレンジの参加者らには、今年10月までデータベースへのアクセスが許され、アルゴリズムの開発を行う。
その後、12月のマシンラーニングのカンファレンスNeurIPSで開催される最終選考会に参加することになる。
優勝者には賞金5万ドルが授与される。応募要項の詳細はDriven Dataのサイト上で公開されている。
フェイスブックは近年、コンテンツ監視の自動化を進めており、2020年第1四半期に削除したヘイトスピーチ絡みのコンテンツの88.8％は、AIを用いて検出したという。
