プレスリリース

2020.09.18

Yahoo!ニュース、不適切コメントへの対策として導入している深層学習を用いた自然言語処理モデル(AI)のAPIを無償提供開始

~ 建設的なコメントを評価する特許出願中の技術を外部に提供し、業界全体でインターネット空間の健全化を目指す ~

詳細ページ

ヤフー株式会社(以下、Yahoo! JAPAN)は、「Yahoo!ニュース コメント」の健全化を目的に導入している「深層学習を用いた自然言語処理モデル(AI)」を利用してコメントを評価する技術(以下、本AI技術)のAPI(アプリケーション・プログラム・インターフェース)の無償提供を開始します。投稿系サービス事業者は、Yahoo! JAPANのAPIを活用することで、自社サービスに投稿されたコメントをAIで評価し、それをもとに自社においてコメントの削除や表示順の並び替えなどを行うことができます。本日より日本国内の投稿系サービス事業者に向けて受付を開始しました。

「Yahoo!ニュース」はユーザーがニュースを通してさまざまな意見に触れ、新たな視点を得るきっかけを作るために、配信される記事に意見や感想を投稿できる機能「Yahoo!ニュース コメント」を2007年より提供しています。「Yahoo!ニュース」では健全な言論空間を創出するため、専門チームによる人的なパトロールに加えて、自社で開発した「深層学習を用いた自然言語処理モデル(AI)」を利用して、誹謗中傷などの不適切な投稿を1日平均約2万件削除するなど、不適切な投稿への対策を行っています。

加えて、言論空間のさらなる健全化と充実化を目指し、「深層学習を用いた自然言語処理モデル(AI)」によって、「客観的で、必要であれば根拠を提示している」「新たな考え方や解決策、見識を提供する」などの条件を満たす建設的なコメントをスコアリングし、スコアが高いものを上位表示させる当社独自の技術である「建設的コメント順位付けモデル」を、2018年から取り入れています。

このたび外部へ無償で提供するのは「建設的コメント順位付けモデル」の技術です。投稿系サービス事業者は、1日平均33万件以上の投稿がある「Yahoo!ニュース」のコメント対策に活用されている本AI技術を導入することにより、AI開発に必要となる大量の学習データや計算コストなどの初期投資をかけずに、本AI技術を利用した自社サービスのコメント健全化対策を開始できます。なお、本AI技術については、複数の特許を出願中です。

「Yahoo!ニュース」は健全な言論空間を創出するため、以前より誹謗中傷などの内容を含む投稿行為を禁止し、コメントガイドラインの制定、ユーザーへの周知・啓発など、継続的な対策を実施しています。Yahoo! JAPANはインターネット企業の社会的責任として、当社が独自に開発した技術を外部の投稿系サービス事業者にも無償で提供し、各事業者の自主的な取組みを促すことで、業界全体で、日本におけるインターネット空間を健全化させるために活発な議論を行っていきたいと考えています。

なお、本発表の内容については、「プラットフォームサービスの運営の在り方検討会」(※1)にて、有識者からいただいたご意見を参考にしています。また、「建設的コメント順位付けモデル」については、今後、言論空間へ与える影響や、同検討会における有識者の意見などを踏まえ、より良いものとなるよう、適宜見直しをしていきます。


※1:ユーザーに安心してご利用いただくための自主ルール策定を目的とした 「プラットフォームサービスの運営の在り方検討会」を開催(2020年7月1日発表)

<API提供についての詳細情報>
■「建設的コメント順位付けモデル」について
「建設的コメント順位付けモデル」は、以下のいずれかの条件を満たすコメントに高いスコアを付与します。
・自分の意見を元に議論を喚起する発言
・客観的で、必要であれば根拠を提示している発言
・新たな考え方や解決策、見識を提供する発言
・記事に関係する珍しい経験談

■活用イメージ
導入企業は、例えば以下のように、スコアが付与されたコメントをさまざまな形で活用できます。
・表示順の改善:付与されたスコアをコメント表示順の値として利用する
・パトロールの効率化:付与されたスコアが低いコメントを優先してパトロールの対象とする
・レコメンド:スコアが高いコメントが多い記事を優先して表示する など

■導入条件について
すでにコメント投稿機能を実装しているサービスを提供・運営する、日本国内の法人に限定して募集します。条件などは、詳細ページをご確認ください。

<関連情報>
個人に対する誹謗中傷等を内容とする投稿への対応について(2020年6月1日発表)
Yahoo!ニュースにおける建設的コメント順位付けモデルの導入
 (2019年3月 言語処理学会 第25回年次大会 発表論文)
社内コンペティションによるYahoo!ニュースのコメントランキングの改善
 (2019年9月 第15回テキストアナリティクス・シンポジウム 講演論文)

このページの先頭へ