プレスリリース

2020.03.06

Yahoo!ニュース、最先端の「深層学習を用いた自然言語処理による判定モデル(AI)」と独自スパコン「kukai」を活用し、コメント対策を強化

~ 違反コメントの検知数が約2.2倍に向上、より健全な議論の場を目指す ~

ヤフー株式会社(以下、Yahoo! JAPAN)は、日本最大級のインターネットニュース配信サービス「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」(以下、コメント)において、暴力的、差別的、過度に品位に欠けるなどの違反コメントへの対策をさらに強化しました。今回、1,100万件のコメントデータなどを活用して、新たに開発した最先端の「深層学習を用いた自然言語処理による判定モデル(AI)」(以下、本判定モデル)と、独自に開発した深層学習特化型スーパーコンピュータ(以下、スパコン)「kukai」の活用を開始しました。
本判定モデルを、実際に1週間分のコメントデータを使い、「従来の機械学習を用いた自然言語処理による判定モデル(AI)」と比較したところ、違反コメントの検知数が約2.2倍に向上しました。


「Yahoo!ニュース」は、健全な議論の場をつくるため、これまでユーザーから違反報告のある記事、閲覧数の多い記事、特定ジャンルの記事など優先順位をつけて、人力や機械学習(AI)を用いてパトロールし、人力を中心に違反コメントの削除、悪質なユーザーのアカウント停止などを行ってきました。
今回導入した本判定モデルで判断された結果は今後、コメント表示順の改善にも採用し、ニュースを多角的に理解するきっかけになるコメントなど、より多くの人に読んでほしいコメントが上位に表示されるようにしていきます。

なお、2019年11月からは、これまで人力でパトロール・削除を行っていた「記事との関連性の低いコメント」を機械的に検知するために、「深層学習を用いた自然言語処理による判定モデル(AI)」とスパコン「kukai」を活用し、対策を行っています。(※1)
※1:Yahoo!ニュースの「不適切コメント対策」最前線――自然言語処理研究者に聞く、スパコンによる機械学習導入後の変化とは?

「Yahoo!ニュース」では、ニュースを通してさまざまな意見に触れ、新たな視点を得たり自分なりの考えを持ったりするきっかけを作りたいと考え、2007年から配信される記事にユーザーが意見や感想を投稿できるコメント機能を実装し、健全な言論空間の創出を目指しています。

なお、「Yahoo!ニュース」では、コメント欄のご利用ルールや、認められない投稿内容などをコメントポリシー(※2)として定めています。社会情勢などに合わせてポリシーを見直しつつ、今後も人的パトロールの強化と、最先端の自然言語処理技術などを活用することで、皆さまに安心してご利用いただけるサービス提供を実現していきます。
※2:Yahoo!ニュース コメントポリシー

■ディープラーニング特化型スパコン「kukai」とは
Yahoo! JAPANが開発した、ディープラーニング活用に特化した省エネ性能の高いスーパーコンピュータ。スパコンの省エネ性能ランキング「GREEN500」において世界第2位を獲得(2017年6月発表)。GPUを使用した従来の社内環境と比較して、演算処理性能が理論上約225倍となり、消費電力あたりの処理性能も世界トップクラスの値を記録しており(2017年6月時点)、より大規模なディープラーニング処理を短時間かつ低コストに行える利点があります。
Yahoo! JAPAN、ディープラーニングに特化したスパコンを開発 スパコンの省エネランキング「GREEN500」にて世界第2位を獲得(2017/06/19)

このページの先頭へ