閉

閉

これフカボリしてほしい

リクエストする

閉

2015年07月24日

人工知能で炎上防止 ネットのコメント欄 空気読み、盛り上げ役も

  • 3191

人工知能を使ったコメント管理機能「クアックス」。間違ったら、ちゃんと謝るユーザーも判別

人工知能を使ったコメント管理機能「クアックス」。間違ったら、ちゃんと謝るユーザーも判別

出典: クーロン、世界初の人工知能を搭載したコメントシステム 「QuACS」のリリースを開始 :: クーロン株式会社

 人工知能を活用して、コメント機能を管理する技術が開発されました。コメント機能は、様々な人の意見に触れることができる一方、炎上のリスクもあります。人工知能を使うことで、同じ「アホ」という表現でも、冗談なのか炎上なのか、見分けられるそうです。開発陣は「炎上の発火点を見つけ、議論の活性化につなげたい」としています。

複雑な判断、難しかった自動化

 人工知能を使ったコメント管理システム「QuACS(クアックス)」を作ったのは、ITベンチャー企業の「クーロン」です。

 現状、コメントの管理はあらかじめ登録したNGワードと、人の目による監視が一般的です。一方、NGワードの中には、議論を活性させる表現になるものもありますが、単語だけ見ても判断はできません。投稿の前後の関係や、サイト全体の雰囲気から考える必要があり、自動化は難しい分野でした。

出典:pixta

議論の流れから、炎上判断

 「クアックス」は、機械学習や言語処理の技術を駆使して、「文章評価」を行います。口論や炎上の発火点になりそうな議論の流れを察知。サイトの特色まで判断して、同じ単語でも出現したタイミングの違いによって、それが「炎上」なのか、そうではないのかを自動で判断します。

 判断する際に重要なのが、人間の経験です。コメント管理に精通した人間が、人工知能に炎上のお手本を教えます。人工知能は、人間に教わったお手本を元に、正確な判断を自動的に下せるようになります。

 また、誤りを指摘されたユーザーが、「ごめんなさい」「指摘ありがとう」など、好意的なリアクションをしているかどうかも自動でチェックします。コミュニケーションに積極的なユーザーの発言は、議論の活性化や健全な雰囲気作りにつながるからです。結果、会話の流れを止めないで、「炎上」の芽を摘むことができます。

出典:pixta

「進化していなかった」掲示板

 会社を立ち上げた佐藤由太社長は「ネットの掲示板機能は、生まれてから全然、進化していなかった」と話します。元々、エンジニアで、デジタル製品を紹介するサイト「ガジェット速報」の運営者でもあるしていた佐藤さん。40万件以上のコメントを管理してきた経験から「情報に受け身になることが多い現代。考える力をつけ、自分と違う意見に触れられるコメント機能をもっと使いやすくしたかった」と言います。

 「クアックス」は、サイト内にコードを埋め込むことで使えるようになります。広告が同時に表示され、サービスを利用する側は無料で使えます。佐藤さんは「将来的には人工知能によるコメント投稿も考えていきたい」と話しています。

素顔のリケジョたち アキバ知り尽くすガイド・食事忘れ研究に没頭…
前へ
アキバでガイドをする女子。工業高等専門学校を卒業し、電気街のことは知り尽くしている=2011年7月18日
次へ
出典:朝日新聞
1/10
前へ
次へ

あわせて読みたい

「握手会=総合芸術」から対人スキルを学ぼ...
「握手会=総合芸術」から対人スキルを学ぼ...
就活生のヒール、ぶっちゃけ気になる?企業に聞いたら、同じ答えが…
就活生のヒール、ぶっちゃけ気になる?企業に聞いたら、同じ答えが…
アイドルオタク「推しごと図鑑」 箱推し・...
アイドルオタク「推しごと図鑑」 箱推し・...
「支える献身的な妻」のはずが…共依存という...
「支える献身的な妻」のはずが…共依存という...
「なくなるョ!全員集合」 スペースワールド、閉園なのにポジティブ
「なくなるョ!全員集合」 スペースワールド、閉園なのにポジティブ
今更ながら水素水を振り返ってみた
今更ながら水素水を振り返ってみた
真相・妻や娘が枕のニオイを指摘する本当の理由は加齢臭ではなかった
真相・妻や娘が枕のニオイを指摘する本当の理由は加齢臭ではなかった
PR
本田真凜、魔性の「てへぺろ感」 天真らんまん、必殺の関西弁
本田真凜、魔性の「てへぺろ感」 天真らんまん、必殺の関西弁
「障害者を理解する」より「困ってる人に声...
「障害者を理解する」より「困ってる人に声...
宅配便、便利さの陰でパンク寸前 〝30秒で泣ける漫画〟の作者が描く
宅配便、便利さの陰でパンク寸前 〝30秒で泣ける漫画〟の作者が描く
NISSINのロゴ、逆さに読んでも同じ 実は意図せずデザインしていた?
NISSINのロゴ、逆さに読んでも同じ 実は意図せずデザインしていた?
NEW
「のん」のやりたいことをやりきったあーちすと魂炸裂の一冊
「のん」のやりたいことをやりきったあーちすと魂炸裂の一冊
PR

人気

もっと見る