閉

これフカボリしてほしい

リクエストする

閉

2015年07月24日

人工知能で炎上防止 ネットのコメント欄 空気読み、盛り上げ役も

  • 4471

人工知能を使ったコメント管理機能「クアックス」。間違ったら、ちゃんと謝るユーザーも判別

人工知能を使ったコメント管理機能「クアックス」。間違ったら、ちゃんと謝るユーザーも判別

出典: クーロン、世界初の人工知能を搭載したコメントシステム 「QuACS」のリリースを開始 :: クーロン株式会社

 人工知能を活用して、コメント機能を管理する技術が開発されました。コメント機能は、様々な人の意見に触れることができる一方、炎上のリスクもあります。人工知能を使うことで、同じ「アホ」という表現でも、冗談なのか炎上なのか、見分けられるそうです。開発陣は「炎上の発火点を見つけ、議論の活性化につなげたい」としています。

複雑な判断、難しかった自動化

 人工知能を使ったコメント管理システム「QuACS(クアックス)」を作ったのは、ITベンチャー企業の「クーロン」です。

 現状、コメントの管理はあらかじめ登録したNGワードと、人の目による監視が一般的です。一方、NGワードの中には、議論を活性させる表現になるものもありますが、単語だけ見ても判断はできません。投稿の前後の関係や、サイト全体の雰囲気から考える必要があり、自動化は難しい分野でした。

出典:pixta

議論の流れから、炎上判断

 「クアックス」は、機械学習や言語処理の技術を駆使して、「文章評価」を行います。口論や炎上の発火点になりそうな議論の流れを察知。サイトの特色まで判断して、同じ単語でも出現したタイミングの違いによって、それが「炎上」なのか、そうではないのかを自動で判断します。

 判断する際に重要なのが、人間の経験です。コメント管理に精通した人間が、人工知能に炎上のお手本を教えます。人工知能は、人間に教わったお手本を元に、正確な判断を自動的に下せるようになります。

 また、誤りを指摘されたユーザーが、「ごめんなさい」「指摘ありがとう」など、好意的なリアクションをしているかどうかも自動でチェックします。コミュニケーションに積極的なユーザーの発言は、議論の活性化や健全な雰囲気作りにつながるからです。結果、会話の流れを止めないで、「炎上」の芽を摘むことができます。

出典:pixta

「進化していなかった」掲示板

 会社を立ち上げた佐藤由太社長は「ネットの掲示板機能は、生まれてから全然、進化していなかった」と話します。元々、エンジニアで、デジタル製品を紹介するサイト「ガジェット速報」の運営者でもあるしていた佐藤さん。40万件以上のコメントを管理してきた経験から「情報に受け身になることが多い現代。考える力をつけ、自分と違う意見に触れられるコメント機能をもっと使いやすくしたかった」と言います。

 「クアックス」は、サイト内にコードを埋め込むことで使えるようになります。広告が同時に表示され、サービスを利用する側は無料で使えます。佐藤さんは「将来的には人工知能によるコメント投稿も考えていきたい」と話しています。

素顔のリケジョたち アキバ知り尽くすガイド・食事忘れ研究に没頭…
前へ
アキバでガイドをする女子。工業高等専門学校を卒業し、電気街のことは知り尽くしている=2011年7月18日
次へ
出典:朝日新聞
1/10
前へ
次へ

あわせて読みたい

鳥山明さんに「漫画家になれますか?」「学校へ行けない僕」のその後
鳥山明さんに「漫画家になれますか?」「学校へ行けない僕」のその後
猫と警備員の攻防、まだ続いてた! 美術館の投稿に思わずほっこり…
猫と警備員の攻防、まだ続いてた! 美術館の投稿に思わずほっこり…
掲載ミス? 違います! Hondaが送ったメッセージとは
掲載ミス? 違います! Hondaが送ったメッセージとは
PR
スマホ充電コード、これでスッキリ! 話題のガチャは新入社員が企画
スマホ充電コード、これでスッキリ! 話題のガチャは新入社員が企画
人気が出たら生産中止! 「ドッキリ蛇口」が話題、大阪の会社に聞く
人気が出たら生産中止! 「ドッキリ蛇口」が話題、大阪の会社に聞く
「触れるVR」×「SDGs」=「?」 高校生たちの意外な回答とは
「触れるVR」×「SDGs」=「?」 高校生たちの意外な回答とは
PR
ママチャリ、なぜ定番に?
ママチャリ、なぜ定番に?
Q&A
多すぎて選べず…「ビジネス書」は教養重視に 具体的にこれ読んで!
多すぎて選べず…「ビジネス書」は教養重視に 具体的にこれ読んで!
「くつろぐソファ」の意味が違う! カメラマンの勘違いで撮れた傑作
「くつろぐソファ」の意味が違う! カメラマンの勘違いで撮れた傑作
発達障害とは?もし「発達障害かも」と思ったら?イラストで解説!
発達障害とは?もし「発達障害かも」と思ったら?イラストで解説!
日本の「帰国子女」、ステレオタイプ先行でモヤモヤする。
日本の「帰国子女」、ステレオタイプ先行でモヤモヤする。
Q&A
鼻に芋、長面…幕末の偉人も人だった!大名の「あだ名」実はシュール
鼻に芋、長面…幕末の偉人も人だった!大名の「あだ名」実はシュール

人気

もっと見る