企業情報

2020.06.24

Yahoo!ニュース コメントの健全化に向けた取り組み

画像

Yahoo!ニュースでは、ユーザーのみなさまに意見や感想を発信していただける場、多様な考えに触れていただける場として、コメント欄(Yahoo!ニュース コメント)を2007年から提供しています。
みなさまに気持ち良くご利用いただくため、コメント欄の健全化に力を入れて取り組んできました。その内容やこれからの取り組みについて、担当者に聞きました。

健全化に向けた取り組み

Yahoo!ニュースは、コメント欄で他の人の意見や考えに触れることで自分の考えを改めて整理したり、ニュースをより深く多角的に理解したりすることが、課題解決や行動につながるきっかけになると考えています。そして、それをインターネットだからこそできる方法で促進したいと考えています。
コメント欄がみなさまに安心してご利用いただける場となるよう、以下のような取り組みを行っています。

禁止行為の明示

Yahoo!ニュースでは、コメントポリシーを定め、投稿が禁止されているコメントや行為をわかりやすく示し、ユーザーのみなさまへ遵守をお願いしています。なお、サービスを安全にご利用いただくため、不快な内容を含むコメントなどについては、権利侵害や法令違反には至らない場合であっても、このコメントポリシーでは禁止対象としています。
Yahoo!ニュース コメントポリシー
※Yahoo!ニュース コメントには、Yahoo! JAPAN利用規約も合わせて適用されます。(※1)

周知啓発による事前抑止

コメントポリシーの遵守を呼びかける文言を投稿ページの目立つ位置に表示することによって、注意を喚起し、不適切なコメントの投稿の事前抑止を図っています。

画像

また、2020年5月には、コメントポリシーの確認と遵守についての周知啓発を改めて行っています。
ユーザーのみなさまへのお願い ―コメントの投稿にあたって― (newsHACK)

専門チームによるパトロール

コメントポリシーに反した不適切なコメントへの対応として、専門チームによるパトロールをおこなっています。
1日の平均コメント投稿数は約29万件で、多い日は約40万件です。そのすべてを人の目で確認することは難しいため、専門チームでは、よく読まれている記事やコメント投稿数が多い記事などのコメントを優先的にパトロールしており、パトロール方法、内容も常に改善を行っています。
また、ユーザーのみなさまに「違反申告」ボタンから違反投稿の申告をいただいたものについて、専門チームが1件ずつ確認し、対応しています。

AIを活用した、不適切投稿に対する機械的対応

サービス開始当初より、マルチポスト対策(※2)、複数アカウントからの投稿の制限(※3)、不適切コメントの自動検知など、さまざまな機械的な対応を行っています。また、2014年から機械学習による不適切投稿への対応(AI)を開始しています。

最先端の自然言語処理モデルとスーパーコンピュータ「kukai」の活用

2019年に、最先端の深層学習を用いた自然言語処理モデルと圧倒的な処理性能をもつ、独自のスーパーコンピュータ「kukai(クウカイ)」(※4)を活用した新たなAIを導入しました。Yahoo! JAPAN上に蓄積されている大量のデータを学習させ、これまでに、以下の2つの判定モデルを導入しています。
・記事との関連性の低いコメント(※5)
・暴力的、差別的、過度に品位に欠ける等のコメント(※6)

kukaiを活用した取り組みについては、開発にあたったヤフーの研究者が次の記事で説明をしています。
Yahoo!ニュースの「不適切コメント対策」最前線――自然言語処理研究者に聞く、スパコンによる機械学習導入後の変化とは?(newsHACK)

深層学習を用いた自然言語処理モデルによって、1日平均約2万件の不適切な投稿の削除を行っています。今後もさらにブラッシュアップしていくとともに、他の違反項目に対してもAIを活用した対応を展開していく予定です。

健全な議論を喚起する仕組み

建設的度合いの高いコメントを優先して表示

コメント欄の上部に健全なコメントが表示されていると、その下にも健全なコメントが投稿される傾向があります(逆も同様です)。健全な議論を喚起し、コメント欄をよりよい空間とするために、Yahoo!ニュースでは以下の取り組みを行っています。(※7)

1)AIの活用(建設的モデル)
各コメントの建設的度合い(「客観的、証拠や根拠提示を含む」「新たな考え方、解決策、洞察がある」など)をAIが判定し、度合いの高いコメントを優先的に表示しています。
2)オーサーコメント
記事に関連する分野に長けたYahoo!ニュース 個人のオーサーの専門性の高いコメントを上部に表示しています。これにより、ユーザーのみなさまにその話題についての知識を深めて、健全な議論につなげていただきたいと考えています。

思いを共有し、社会にメッセージを届ける企画

社会的な大きな問題をみんなで一緒に乗り越えるために、コメント欄を活用して、思いを共有したり応援のメッセージを送ったりしていただく企画も行っています。
4月には、新型コロナウイルスの状況下で、対応を最前線で頑張ってくださる多くの医療従事者、生活必需品の販売者などに向けて、ユーザーが感謝の気持ちを伝える企画を実施しました。
新型コロナウイルスに関する情報発信 Yahoo!ニュースの取り組み - コメント欄で思いを共有 -(newsHACK)

また、東日本大震災から丸9年を経た今の思いを募る企画(※8)も実施しています。
今後も、多くの方が社会にメッセージを届けたいと感じ、そして社会がそれを必要としている際にこの企画を行い、課題解決と行動につなげていきたいと考えています。

健全な言論空間として これからの取り組み

今後もYahoo!ニュース コメントが健全な言論空間として発展していけるよう、以下の取り組みを進めていきます。

AIを活用した不適切投稿の事前抑止

インターネット上のいじめ(cyber-bullying)をなくすため、他人を傷つけるメッセージの投稿前に投稿の再考を促すメッセージを表示するアプリ「ReThink」を開発したTrisha Prabhuさんによると、アプリユーザーの93.4%がその投稿を思いとどまったそうです。
Yahoo!ニュースでも、不適切投稿の事前抑止に力を入れていきたいと考えており、これまで蓄積してきたAIによる対応の知見を生かした、技術的な事前抑止の仕組みを実施する予定です。

個人に対する誹謗中傷などの投稿への対応強化

専門チームによるパトロールや最先端の技術を駆使した投稿への対策強化に加え、他の投稿系サービス事業者に対する深層学習を用いた自然言語処理モデル(AI)の技術提供を進めること、法律家をはじめとした幅広い分野から有識者を募り検討会を行うことを発表しています。(※9)

Yahoo!ニュースでは、今回ご紹介した取り組みを含め、今後も健全な言論空間となるよう改善を続けていきます。

【関連リンク】

このページの先頭へ