閉

これフカボリしてほしい

リクエストする

閉

2015年07月24日

人工知能で炎上防止 ネットのコメント欄 空気読み、盛り上げ役も

  • 4285

人工知能を使ったコメント管理機能「クアックス」。間違ったら、ちゃんと謝るユーザーも判別

人工知能を使ったコメント管理機能「クアックス」。間違ったら、ちゃんと謝るユーザーも判別

出典: クーロン、世界初の人工知能を搭載したコメントシステム 「QuACS」のリリースを開始 :: クーロン株式会社

 人工知能を活用して、コメント機能を管理する技術が開発されました。コメント機能は、様々な人の意見に触れることができる一方、炎上のリスクもあります。人工知能を使うことで、同じ「アホ」という表現でも、冗談なのか炎上なのか、見分けられるそうです。開発陣は「炎上の発火点を見つけ、議論の活性化につなげたい」としています。

複雑な判断、難しかった自動化

 人工知能を使ったコメント管理システム「QuACS(クアックス)」を作ったのは、ITベンチャー企業の「クーロン」です。

 現状、コメントの管理はあらかじめ登録したNGワードと、人の目による監視が一般的です。一方、NGワードの中には、議論を活性させる表現になるものもありますが、単語だけ見ても判断はできません。投稿の前後の関係や、サイト全体の雰囲気から考える必要があり、自動化は難しい分野でした。

出典:pixta

議論の流れから、炎上判断

 「クアックス」は、機械学習や言語処理の技術を駆使して、「文章評価」を行います。口論や炎上の発火点になりそうな議論の流れを察知。サイトの特色まで判断して、同じ単語でも出現したタイミングの違いによって、それが「炎上」なのか、そうではないのかを自動で判断します。

 判断する際に重要なのが、人間の経験です。コメント管理に精通した人間が、人工知能に炎上のお手本を教えます。人工知能は、人間に教わったお手本を元に、正確な判断を自動的に下せるようになります。

 また、誤りを指摘されたユーザーが、「ごめんなさい」「指摘ありがとう」など、好意的なリアクションをしているかどうかも自動でチェックします。コミュニケーションに積極的なユーザーの発言は、議論の活性化や健全な雰囲気作りにつながるからです。結果、会話の流れを止めないで、「炎上」の芽を摘むことができます。

出典:pixta

「進化していなかった」掲示板

 会社を立ち上げた佐藤由太社長は「ネットの掲示板機能は、生まれてから全然、進化していなかった」と話します。元々、エンジニアで、デジタル製品を紹介するサイト「ガジェット速報」の運営者でもあるしていた佐藤さん。40万件以上のコメントを管理してきた経験から「情報に受け身になることが多い現代。考える力をつけ、自分と違う意見に触れられるコメント機能をもっと使いやすくしたかった」と言います。

 「クアックス」は、サイト内にコードを埋め込むことで使えるようになります。広告が同時に表示され、サービスを利用する側は無料で使えます。佐藤さんは「将来的には人工知能によるコメント投稿も考えていきたい」と話しています。

素顔のリケジョたち アキバ知り尽くすガイド・食事忘れ研究に没頭…
前へ
アキバでガイドをする女子。工業高等専門学校を卒業し、電気街のことは知り尽くしている=2011年7月18日
次へ
出典:朝日新聞
1/10
前へ
次へ

あわせて読みたい

日本人が知らない…アメリカ「差別の闇」 自...
日本人が知らない…アメリカ「差別の闇」 自...
平日2時間だけ営業「ハードル高い」ラーメン...
平日2時間だけ営業「ハードル高い」ラーメン...
「ワープの場所を間違えた!」 頭だけで倒立、桂浜水族館員が話題に
「ワープの場所を間違えた!」 頭だけで倒立、桂浜水族館員が話題に
摂食障害「地方在住の悩み」相談どこに? 突然「仕事しろ」でも…
摂食障害「地方在住の悩み」相談どこに? 突然「仕事しろ」でも…
W杯のパブリックビューイングを実施する場合、ライセンス料を支払わないといけないのはなんで?
W杯のパブリックビューイングを実施する場合、ライセンス料を支払わないといけないのはなんで?
Q&A
贈り主は『ふなっしー』 南三陸町にミシン、ブレイク前から続く支援
贈り主は『ふなっしー』 南三陸町にミシン、ブレイク前から続く支援
「長生きしてね」父に言えなくて… 夜廻り猫が描く介護の眠れぬ日々
「長生きしてね」父に言えなくて… 夜廻り猫が描く介護の眠れぬ日々
アーロン・ソーキンが描く、時代を象徴する新しい女性像がカッコいい
アーロン・ソーキンが描く、時代を象徴する新しい女性像がカッコいい
PR
野焼き法律的にOK?長野に住んで驚いた…「下草火災」が多い理由
野焼き法律的にOK?長野に住んで驚いた…「下草火災」が多い理由
スプツニ子!さんも経験した年齢の壁。自分の声を聞けば越えられる
スプツニ子!さんも経験した年齢の壁。自分の声を聞けば越えられる
PR
アヒル「おい、生きてるか?」 カピバラ「……」 昼寝の動画が話題
アヒル「おい、生きてるか?」 カピバラ「……」 昼寝の動画が話題
海外の卒業式はどんなものなのでしょう?
海外の卒業式はどんなものなのでしょう?
Q&A

人気

もっと見る