閉

これフカボリしてほしい

リクエストする

閉

2015年07月24日

人工知能で炎上防止 ネットのコメント欄 空気読み、盛り上げ役も

  • 4406

人工知能を使ったコメント管理機能「クアックス」。間違ったら、ちゃんと謝るユーザーも判別

人工知能を使ったコメント管理機能「クアックス」。間違ったら、ちゃんと謝るユーザーも判別

出典: クーロン、世界初の人工知能を搭載したコメントシステム 「QuACS」のリリースを開始 :: クーロン株式会社

 人工知能を活用して、コメント機能を管理する技術が開発されました。コメント機能は、様々な人の意見に触れることができる一方、炎上のリスクもあります。人工知能を使うことで、同じ「アホ」という表現でも、冗談なのか炎上なのか、見分けられるそうです。開発陣は「炎上の発火点を見つけ、議論の活性化につなげたい」としています。

複雑な判断、難しかった自動化

 人工知能を使ったコメント管理システム「QuACS(クアックス)」を作ったのは、ITベンチャー企業の「クーロン」です。

 現状、コメントの管理はあらかじめ登録したNGワードと、人の目による監視が一般的です。一方、NGワードの中には、議論を活性させる表現になるものもありますが、単語だけ見ても判断はできません。投稿の前後の関係や、サイト全体の雰囲気から考える必要があり、自動化は難しい分野でした。

出典:pixta

議論の流れから、炎上判断

 「クアックス」は、機械学習や言語処理の技術を駆使して、「文章評価」を行います。口論や炎上の発火点になりそうな議論の流れを察知。サイトの特色まで判断して、同じ単語でも出現したタイミングの違いによって、それが「炎上」なのか、そうではないのかを自動で判断します。

 判断する際に重要なのが、人間の経験です。コメント管理に精通した人間が、人工知能に炎上のお手本を教えます。人工知能は、人間に教わったお手本を元に、正確な判断を自動的に下せるようになります。

 また、誤りを指摘されたユーザーが、「ごめんなさい」「指摘ありがとう」など、好意的なリアクションをしているかどうかも自動でチェックします。コミュニケーションに積極的なユーザーの発言は、議論の活性化や健全な雰囲気作りにつながるからです。結果、会話の流れを止めないで、「炎上」の芽を摘むことができます。

出典:pixta

「進化していなかった」掲示板

 会社を立ち上げた佐藤由太社長は「ネットの掲示板機能は、生まれてから全然、進化していなかった」と話します。元々、エンジニアで、デジタル製品を紹介するサイト「ガジェット速報」の運営者でもあるしていた佐藤さん。40万件以上のコメントを管理してきた経験から「情報に受け身になることが多い現代。考える力をつけ、自分と違う意見に触れられるコメント機能をもっと使いやすくしたかった」と言います。

 「クアックス」は、サイト内にコードを埋め込むことで使えるようになります。広告が同時に表示され、サービスを利用する側は無料で使えます。佐藤さんは「将来的には人工知能によるコメント投稿も考えていきたい」と話しています。

素顔のリケジョたち アキバ知り尽くすガイド・食事忘れ研究に没頭…
前へ
アキバでガイドをする女子。工業高等専門学校を卒業し、電気街のことは知り尽くしている=2011年7月18日
次へ
出典:朝日新聞
1/10
前へ
次へ

あわせて読みたい

「ひとりぼっちでもいい」 蛭子さんが語る真の友達とは
「ひとりぼっちでもいい」 蛭子さんが語る真の友達とは
海外にはどんなこどもの遊びがあるのですか?
海外にはどんなこどもの遊びがあるのですか?
Q&A
「すがれるものなかった」学生時代を救った「爆音」と妄想イベント
「すがれるものなかった」学生時代を救った「爆音」と妄想イベント
「ばい菌」と呼ばれ…サヘル・ローズさん「心の傷」との向き合い方 
「ばい菌」と呼ばれ…サヘル・ローズさん「心の傷」との向き合い方 
COACH…じゃなくて「高知の財布」注文殺到 不登校の才能開花
COACH…じゃなくて「高知の財布」注文殺到 不登校の才能開花
子どもが心を閉ざす「言葉」とは? 「6割が...
子どもが心を閉ざす「言葉」とは? 「6割が...
元号が発表されずヤケクソに? カレンダー...
元号が発表されずヤケクソに? カレンダー...
まんまる毛玉、水で洗うとぬいぐるみに! 「私が助けた」で湧く愛着
まんまる毛玉、水で洗うとぬいぐるみに! 「私が助けた」で湧く愛着
夏休み明け、命絶つ子ども 「学校絶対主義...
夏休み明け、命絶つ子ども 「学校絶対主義...
10年間カレー食べ続けた夫婦、最後は… ギャグ&ホラーな漫画が話題
10年間カレー食べ続けた夫婦、最後は… ギャグ&ホラーな漫画が話題
鈴鹿サーキットの泡パをヨッピーが見に行ったら、レースがすごかった
鈴鹿サーキットの泡パをヨッピーが見に行ったら、レースがすごかった
PR
【特派員イチオシ旅】巨大な岩塩「お代はいらない」パキスタンの幸せ
【特派員イチオシ旅】巨大な岩塩「お代はいらない」パキスタンの幸せ

人気

もっと見る