企業情報

2020.02.28

「不快な投稿が目に触れないために」Yahoo!知恵袋の機械判定

「不快な投稿が目に触れないために」Yahoo!知恵袋の機械判定

Yahoo!知恵袋では、多くの人が不快に感じる質問や回答について、担当者によるパトロールや、みなさまからのご申告をもとに、明らかにルールに違反する投稿の削除を行っています。
ですが、膨大な量の投稿を目視で対応するのは限界があり、ユーザーのみなさまから投稿の質に対するご意見を多くいただいていました。
このような課題に対して検討を重ねた結果、2018年1月よりAIの技術である深層機械学習(ディープラーニング)を導入し、不快な投稿がみなさまの目に触れないようにする対策を行っています。
今回は、これまでに行った機械判定による対策の内容についてご紹介します。

機械判定導入後の改善について

2018年1月
・Yahoo!知恵袋のトップページに表示され、問題があると判定された投稿を除外
・問題があると判定された投稿についてランキングから除外
2018年3月
・検索結果の表示順位を調整し、問題があると判定された投稿の表示順位を下げる
・質問詳細の回答について、問題があると判定された投稿を折りたたんだ状態に

画像
不快な投稿は折りたたまれて表示されます(画像はiOS版Yahoo!知恵袋アプリ)

2018年8月
・深層学習の精度改善
2019年5月
・ランキングからアダルト投稿の可能性が高いものを除外
・「あわせて知りたい」からアダルト投稿の可能性が高いものを除外

画像
(左)アプリ版(右)スマホウェブ版

みなさまに不快と思われない知恵袋を目指して

Yahoo!知恵袋では表現の自由も大事な要素だと考えています。ユーザーのみなさまにとって不快と思われる投稿を一律で削除するのではなく、表示順を変えたり、アクションしないと見えないようにしたりすることで、「見たい人は見られるが、見る必要のない人は見なくてもよい」という状態を目指しています。

これまでの対策により、不快投稿の可能性がある質問・回答の閲覧数は2018年1月から約7割減少し、ユーザーのみなさまが意図せず不快な投稿を目にしてしまう機会が徐々に減ってきています。
多くのみなさまに安心してご利用いただけるよう、今後も継続的に改善を続けていきます。

【関連リンク】

このページの先頭へ