IT・科学
人工知能で炎上防止 ネットのコメント欄 空気読み、盛り上げ役も
人工知能でコメント機能を管理する技術が開発されました。開発陣は「発火点を見つけることで議論の活性化につながる」としています。
人工知能を活用して、コメント機能を管理する技術が開発されました。コメント機能は、様々な人の意見に触れることができる一方、炎上のリスクもあります。人工知能を使うことで、同じ「アホ」という表現でも、冗談なのか炎上なのか、見分けられるそうです。開発陣は「炎上の発火点を見つけ、議論の活性化につなげたい」としています。
複雑な判断、難しかった自動化
人工知能を使ったコメント管理システム「QuACS（クアックス）」を作ったのは、ITベンチャー企業の「クーロン」です。
現状、コメントの管理はあらかじめ登録したNGワードと、人の目による監視が一般的です。一方、NGワードの中には、議論を活性させる表現になるものもありますが、単語だけ見ても判断はできません。投稿の前後の関係や、サイト全体の雰囲気から考える必要があり、自動化は難しい分野でした。
議論の流れから、炎上判断
「クアックス」は、機械学習や言語処理の技術を駆使して、「文章評価」を行います。口論や炎上の発火点になりそうな議論の流れを察知。サイトの特色まで判断して、同じ単語でも出現したタイミングの違いによって、それが「炎上」なのか、そうではないのかを自動で判断します。
判断する際に重要なのが、人間の経験です。コメント管理に精通した人間が、人工知能に炎上のお手本を教えます。人工知能は、人間に教わったお手本を元に、正確な判断を自動的に下せるようになります。
また、誤りを指摘されたユーザーが、「ごめんなさい」「指摘ありがとう」など、好意的なリアクションをしているかどうかも自動でチェックします。コミュニケーションに積極的なユーザーの発言は、議論の活性化や健全な雰囲気作りにつながるからです。結果、会話の流れを止めないで、「炎上」の芽を摘むことができます。
「進化していなかった」掲示板
会社を立ち上げた佐藤由太社長は「ネットの掲示板機能は、生まれてから全然、進化していなかった」と話します。元々、エンジニアで、デジタル製品を紹介するサイト「ガジェット速報」の運営者でもあるしていた佐藤さん。40万件以上のコメントを管理してきた経験から「情報に受け身になることが多い現代。考える力をつけ、自分と違う意見に触れられるコメント機能をもっと使いやすくしたかった」と言います。
「クアックス」は、サイト内にコードを埋め込むことで使えるようになります。広告が同時に表示され、サービスを利用する側は無料で使えます。佐藤さんは「将来的には人工知能によるコメント投稿も考えていきたい」と話しています。
素顔のリケジョたち アキバ知り尽くすガイド・食事忘れ研究に没頭…
1/10枚
