閉

閉

これフカボリしてほしい

リクエストする

閉

2014年08月27日

FC2が「青少年守る」 東大の人工知能で児童ポルノ監視

  • 3677

FC2の会社概要

FC2の会社概要

出典: FC2

背景に「規制強化」

ウェブへの投稿監視などを担うイー・ガーディアン(東京都港区)は27日、ブログや動画配信サービスで知られるFC2(米国ラスベガス)に児童ポルノなどの違法画像を検出する新システムを提供すると発表した。

アダルト動画サービスもあり、利用者が簡単に画像をアップロードできるFC2のサイトでは、これまで児童ポルノなどの違法画像を目視で確認してきたというが、限界がある。国内では 児童ポルノの単純所持に罰則を設けることを柱とした改正児童ポルノ禁止法が6月に成立し、グーグルも児童ポルノの検索を厳しく制限するなど規制が進む中、アダルト動画サービスを提供するFC2も対策に乗り出した。

プレスリリースによると、FC2は「青少年の人権を守るため、より迅速に広範囲に不適切画像を発見することが可能になる」と説明している。

画像認識システムの仕組み

画像認識システムの仕組み

出典:イーガーディアンの資料から

システムは、イー・ガーディアンが東京大院 情報理工学系研究科の原田達也研究室(知能機械情報学専攻)と共同開発した。児童ポルノや嫌がらせ目的のリベンジポルノなどの画像を入力すると、人工知能がそれと似ている画像を監視対象のサイトへのアップロード時に見つける。

似ているか似ていないか微妙な画像は「グレーゾーン」と判定される。それを人間の目で確認して、セーフかアウトかを判定すると、人工知能はその結果を学習して精度を向上させていく。

新システムの精度

新システムの精度

出典:イーガーディアンの資料から

FC2提供のデータで児童ポルノを「学習」

イー・ガーディアンによると、テスト運用中だった5月23日時点で画像識別の精度は94・5%。グレーと判定されたものについて、目視の割合を25%まで増やすと、精度は99%に上がったという。すべてを目視した場合と比較して「コストを20分の1に減らせる」という。

今回、システム開発のために必要な児童ポルノのサンプル画像データはFC2が提供した(追記:データはテキストデータに変換されたもので画像そのものではありません)。原田研究室は画像データを識別し、結果を学習していく人工知能の開発で実績がある。国際的な画像認識の大会ILSVRC2012では120の犬種を画像から識別する部門で世界1位となっている。

両者をつないだのが投稿監視システムを開発しているイー・ガーディアンだ。

イー・ガーディアンのホームページ

イー・ガーディアンのホームページ

児童ポルノなど違法画像のアップロードは「SNS、ブログ運営サイト、ポータルサイト、ECサイト、画像・動画投稿サイト、キャンペーンサイトなど各種メディア」(イー・ガーディアン広報)に及ぶ可能性がある。FC2以外にも現在、数社と交渉をしており、来年9月までに20社への提供を目指しているという。

イー・ガーディアン広報は「今までは、通報されたものについて削除などの対応がされていました。よりスピーディーに見つけられれば、違法画像や動画の拡散を押さえられる」と話す。

あわせて読みたい

石像400体、モデルは「普通の人」 富山の謎スポット、誰が作った?
石像400体、モデルは「普通の人」 富山の謎スポット、誰が作った?
「昼顔」中国で異常人気の理由 チケット5千枚、30秒で完売の事態に
「昼顔」中国で異常人気の理由 チケット5千枚、30秒で完売の事態に
14歳の藤井四段と桐山少年、どっちが強い? プロ棋士の恐るべき能力
14歳の藤井四段と桐山少年、どっちが強い? プロ棋士の恐るべき能力
世界大学ランク日本版で23位! 会津大学って? 評価の理由を調査
世界大学ランク日本版で23位! 会津大学って? 評価の理由を調査
スポーツ嫌いなままじゃダメ? 〝30秒で泣ける漫画〟の作者が描く
スポーツ嫌いなままじゃダメ? 〝30秒で泣ける漫画〟の作者が描く
最近、金塊の密輸事件が多いですが、押収された金塊はその後どうなるのですか?
最近、金塊の密輸事件が多いですが、押収された金塊はその後どうなるのですか?
Q&A
あっ!蚊が入っちゃうよ 網戸の正しい閉め方、YKK APに聞きました
あっ!蚊が入っちゃうよ 網戸の正しい閉め方、YKK APに聞きました
のんさんが、恋人にしたい相手の理想の身長を想像させた映画とは?
のんさんが、恋人にしたい相手の理想の身長を想像させた映画とは?
PR
気分はネゴシエーター!…ズボンを履いてほしいだけなんだよ!
気分はネゴシエーター!…ズボンを履いてほしいだけなんだよ!
AKB総選挙、中止でも「逆に奇跡」 前乗りしたファンが見た「伝説」
AKB総選挙、中止でも「逆に奇跡」 前乗りしたファンが見た「伝説」
映画館デートで注意したい77のポイント
映画館デートで注意したい77のポイント
PR
やじと戦った塩村都議 職員青ざめ「あっ」 伏魔殿の正体を見た瞬間
やじと戦った塩村都議 職員青ざめ「あっ」 伏魔殿の正体を見た瞬間

人気

もっと見る