close

閉

これフカボリしてほしい

リクエストする

閉

2015年07月24日

人工知能で炎上防止 ネットのコメント欄 空気読み、盛り上げ役も


  • 4581

人工知能を使ったコメント管理機能「クアックス」。間違ったら、ちゃんと謝るユーザーも判別

人工知能を使ったコメント管理機能「クアックス」。間違ったら、ちゃんと謝るユーザーも判別

出典: クーロン、世界初の人工知能を搭載したコメントシステム 「QuACS」のリリースを開始 :: クーロン株式会社

最新ニュースを受け取る

 人工知能を活用して、コメント機能を管理する技術が開発されました。コメント機能は、様々な人の意見に触れることができる一方、炎上のリスクもあります。人工知能を使うことで、同じ「アホ」という表現でも、冗談なのか炎上なのか、見分けられるそうです。開発陣は「炎上の発火点を見つけ、議論の活性化につなげたい」としています。

複雑な判断、難しかった自動化

 人工知能を使ったコメント管理システム「QuACS(クアックス)」を作ったのは、ITベンチャー企業の「クーロン」です。

 現状、コメントの管理はあらかじめ登録したNGワードと、人の目による監視が一般的です。一方、NGワードの中には、議論を活性させる表現になるものもありますが、単語だけ見ても判断はできません。投稿の前後の関係や、サイト全体の雰囲気から考える必要があり、自動化は難しい分野でした。

出典:pixta

議論の流れから、炎上判断

 「クアックス」は、機械学習や言語処理の技術を駆使して、「文章評価」を行います。口論や炎上の発火点になりそうな議論の流れを察知。サイトの特色まで判断して、同じ単語でも出現したタイミングの違いによって、それが「炎上」なのか、そうではないのかを自動で判断します。

 判断する際に重要なのが、人間の経験です。コメント管理に精通した人間が、人工知能に炎上のお手本を教えます。人工知能は、人間に教わったお手本を元に、正確な判断を自動的に下せるようになります。

 また、誤りを指摘されたユーザーが、「ごめんなさい」「指摘ありがとう」など、好意的なリアクションをしているかどうかも自動でチェックします。コミュニケーションに積極的なユーザーの発言は、議論の活性化や健全な雰囲気作りにつながるからです。結果、会話の流れを止めないで、「炎上」の芽を摘むことができます。

出典:pixta

「進化していなかった」掲示板

 会社を立ち上げた佐藤由太社長は「ネットの掲示板機能は、生まれてから全然、進化していなかった」と話します。元々、エンジニアで、デジタル製品を紹介するサイト「ガジェット速報」の運営者でもあるしていた佐藤さん。40万件以上のコメントを管理してきた経験から「情報に受け身になることが多い現代。考える力をつけ、自分と違う意見に触れられるコメント機能をもっと使いやすくしたかった」と言います。

 「クアックス」は、サイト内にコードを埋め込むことで使えるようになります。広告が同時に表示され、サービスを利用する側は無料で使えます。佐藤さんは「将来的には人工知能によるコメント投稿も考えていきたい」と話しています。

素顔のリケジョたち アキバ知り尽くすガイド・食事忘れ研究に没頭…
前へ
アキバでガイドをする女子。工業高等専門学校を卒業し、電気街のことは知り尽くしている=2011年7月18日
次へ
出典:朝日新聞
1/10
前へ
次へ

コメント

あわせて読みたい

「母という生き物」になったんだ… 息子を抱く実母を見て思ったこと
「母という生き物」になったんだ… 息子を抱く実母を見て思ったこと
パンの「のがみ」が残すところ秋田だけと聞きました。どうして秋田が最後の空白県になるのでしょうか。
パンの「のがみ」が残すところ秋田だけと聞きました。どうして秋田が最後の空白県になるのでしょうか。
Q&A
助手席にオオサンショウウオ 170cmぬいぐるみ、MKタクシーが話題
助手席にオオサンショウウオ 170cmぬいぐるみ、MKタクシーが話題
僕にエサをください! 右前脚で「挙手」するアライグマが可愛すぎる
僕にエサをください! 右前脚で「挙手」するアライグマが可愛すぎる
ゆうたろうさん、マスクなしで外出できなかった過去「いいね」救いに
ゆうたろうさん、マスクなしで外出できなかった過去「いいね」救いに
トイレに腕を突っ込んだ少年時代、エイズ撲滅目指す医師の「突破力」
トイレに腕を突っ込んだ少年時代、エイズ撲滅目指す医師の「突破力」
NEW
市長が言い切る「学校に行かなくてもいい」...
市長が言い切る「学校に行かなくてもいい」...
森永ラムネはタピオカが入ってる? 原材料「タピオカでん粉」が話題
森永ラムネはタピオカが入ってる? 原材料「タピオカでん粉」が話題
「札幌―釧路」は「東京―名古屋」と同じ? 新千歳空港駅地図が話題
「札幌―釧路」は「東京―名古屋」と同じ? 新千歳空港駅地図が話題
「文化部はネクラ?」美術部がバレー部に入り気づいた自分のものさし
「文化部はネクラ?」美術部がバレー部に入り気づいた自分のものさし
NEW
横田基地「友好祭」、テーマパーク級の盛況 これも在日米軍の風景
横田基地「友好祭」、テーマパーク級の盛況 これも在日米軍の風景
手のひらがラピュタのロボット兵に! 歩いて踊る「指遊び」が話題に
手のひらがラピュタのロボット兵に! 歩いて踊る「指遊び」が話題に

人気

もっと見る