CSR

「Yahoo!ニュース コメント」違反コメント対策を強化し、より健全な議論の場へ

ヤフーニュースのコメントでニュースに気付きをのロゴマーク

Yahoo!ニュースでは、コメント欄において、記事と関連性の低いコメントや、人権侵害や誹謗(ひぼう)・中傷、ヘイトスピーチ、不快な内容を含むコメントなどを明示的に禁止するとともに、健全な議論の場となるようさまざまな取り組みを行っています。

専門チームによるパトロールマルチポスト対策複数アカウントからの投稿の制限、不適切コメントの自動検知などに加え、2019年12月には、最先端の自然言語処理モデルを使用した「記事との関連性の低いコメント」への対策を開始しました。

従来のモデルでは判定が困難だった「記事とコメントの関連度」について、深層学習ベースのアーキテクチャである「Transformer」およびGoogleの研究者が発表した自然言語処理モデルの「BERT」を使用し、巨大なデータ学習に圧倒的な処理性能をもつスーパーコンピュータ「kukai」をコメント対策に活用することで、「記事とコメントの関連度」の判定が投稿時に実現。パトロール専門チームの削除までの時間が飛躍的に短くなりました。

また2020年3月からは、新たな判定モデルを導入し、暴力的、差別的、過度に品位に欠ける等のコメント対策を強化しました。
これまでも禁止ワードや従来型の判定モデルによるコメント自動検知に加え、ユーザーの皆さまからの違反報告や、閲覧数の多い記事、あるいは特定ジャンルの記事の巡回パトロールなど、優先度の高いものから人的パトロールを実施していました。

今回、新たに導入した判定モデルは、最先端で強力な深層学習ベースのアーキテクチャである「DSSM-Transformer」を使用しており、これまで実装していた従来型の判定モデルと比べて違反コメントの検知数が2.2倍に向上しました。
さらに、判定モデルで算出したスコアをコメント表示順の改善にも活用することで、ニュースを多角的に理解するきっかけになるコメントなど、より多くの人に読んでほしいコメントが上位に表示されるよう活用しています。

今後も、人的パトロールと技術的な課題解決の両輪を強化して、安心してご利用いただけるようサービス運営に努めていきます。

2020年4月更新

関連リンク

このページの先頭へ