2026年2月24日

近年の生成AIの急速な進化によって、誰でも気軽に精巧な画像表現や映像表現が可能になりました。しかし、その一方で、情報操作のために任意の人物のフェイク画像や映像を流布させたり、閲覧数稼ぎのためのデマで人々を混乱させたりするような問題も生まれています。このような問題に対応するため、NECではAI技術群やLLMを活用した偽・誤情報分析の開発に取り組んでいます。テキストや画像、音声、映像などを統合的に検証できるという本技術について、研究者に詳しく話を聞きました。

2時間かかっていた調査時間を5-10分に短縮

― 偽・誤情報分析とは、どのような技術なのでしょうか？

古川：任意の情報を入力すると偽情報・誤情報の可能性をAI技術群が分析し、LLMがレポートを自動作成する技術です。テキスト・画像・音声・動画などの幅広いデータ形式とその組み合わせにも対応可能なうえ、Agentic AIによって最適な分析フローを自動設計できる点に特長があります。プロフェッショナルの方が行うような高精度なチェックを高効率で行うことが可能です。

近年では金融市場を故意に動かす偽情報や災害時の適切な情報流通を妨げる誤情報など、SNSに氾濫する情報から経済的・社会的な実害が生じています。1-2年スパンの短期的な視野では最もリスクが高いとするレポート（注）もあるほど、世界的に大きな問題となっている状況です。

私たちの研究グループはAIによる新たな脅威に対応する技術の研究に取り組んでいるチームで、セキュリティとAIの境界領域で活動しています。

松永：最近のAIやLLMの進化によって偽・誤情報も高度化・多様化しています。画像とテキストのちょっとした組み合わせの違いで意味合いが変わるなどというものも多く、画像や映像、テキストそれぞれの分析技術では間に合いません。さまざまなデータ形式をまとめて分析し、その意味や根拠を検証するシステムが必要でした。


古川：そこで、映像やテキストなどのデータ形式を問わず分析できるシステムのコアアイデアを検討して研究開発を進めようとした折に、ちょうど総務省様が「インターネット上の偽・誤情報対策技術の開発・実証事業」の公募を開始し、私たちNECがこれに応札して、実用的なシステムの開発を進めてきたというかたちです。


柿崎：システムとしては、フレキシブルなフレームワークとして構築し、さまざまなNECのAI技術やオープンソースのエンジンを組み合わせられる設計にしていきました。適宜ふさわしいエンジンを組み込める構造とすることで、凄まじいスピードで進化を続けるAI技術やLLMを随時追加したり、入れ替えたりできるのでシステムの陳腐化を避けることができます。また、ユースシーンに応じた柔軟な構成変更も可能ですし、新たな脅威に即応することもできます。


古川：現在、ユースケースとしては、報道機関におけるSNSなどの流通情報のファクトチェック、自治体様での災害時活用などを想定しています。実証実験では、ファクトチェックに日頃から関わる実務者の方々に参加いただき、これまで2時間程度要していた証拠情報の収集作業を5-10分で完了することができました。大幅な効率化に貢献できることを確認しています。

画像や映像もテキスト化してLLMで統合的に分析

― 本技術におけるNECならではの特長はどこにあるのでしょうか？

柿崎：まずは映像やテキストなどのデータ形式を問わず統合的にチェックできるという点です。一般的なアプローチでは画像なら画像専用の技術、動画であれば動画専用の技術というかたちでデータ形式ごとに情報を分析する必要がありますが、私たちの技術では全てのデータを一度テキスト化することで、どのようなデータ形式であっても、さらにはどのようなデータの組み合わせであっても、LLMによる分析が可能になります。このアイデアは難関国際学会AAAI 2025のデモンストレーション・プログラムでも採用されたほか、私自身も評価いただいてMITテクノロジーレビューによる「Innovators Under 35 Japan」にも選出いただきました（参考：https://www.technologyreview.jp/l/innovators_jp/371995/kazuya-kakizaki/）。

松永：映像や画像なども全てLLMが扱いやすいテキストのかたちに変換し、コンテンツ内の主張や検証すべき対象を抽出します。そのうえで、画像や映像そのものの生成加工の有無を検証するほか、主張内容の根拠を広く検索して信頼性を確かめるという仕組みです。


柿崎：根拠は出典を示すことでユーザに信頼性をフィードバックします。情報の正誤判定には出典元が1次情報であるかどうかが重要な基準になりますので、1次情報にたどり着けるまで検索を続けるような仕組みの実装に向けて取り組んでいるところです。


松永：また、Agentic AIを開発して組み込むことで、予め決められた固定的なパイプラインではなく、必要なタスクを選択して効率的に動くような仕組みを実現しました。例えば、先にフェイクチェックをした方がいいケースではそのように機能しますし、Web検索の結果、別の検索をかけた方がよいとなった場合には追加で検索をかけることができます。また、ユーザからの入力情報に不足があれば適宜聞き返してチェックする箇所を明らかにするなど、効率的な調査フローを柔軟に設計することができます。

柿崎：人の顔や音声のフェイク検知、主張抽出や出典検索など、多数のエンジンを組み合わせているので、毎回全ての処理をしていたら重くなってしまいますし、無駄な情報も増えて逆にLLMの判断が難しくなってしまいます。目的や用途に応じて必要な処理だけを適切な順番で使って、プロフェッショナルな熟練者がするように効率的かつきめ細かなファクトチェックをしてくれるというのも、Agentic AIの効果です。


松永：そうですね。また、エンジンを組み替えたときにもAgentic AIが上手く処理してくれるので、置き換えがスムーズになるというメリットもあります。


古川：私たちはセキュリティに取り組んできたチームなので、常に新しい脅威に素早く対応する仕組みを考え続けてきました。こうした姿勢が、今回のシステムのフレームワークにも通じているのではないかと思います。

リスクの自動検出や情報群の分析も視野に

― 今後の展開や可能性について教えてください。

古川：まだ研究開発段階の技術ではありますので、まずはお客様に製品・サービスとしてきちんとお届けるように進めていきたいですね。来年度までのリリースが一つの目標です。


松永：実運用を想定すると、さまざまな調整が必要になると考えています。例えば、ユーザによって使い方や目的も変わります。報道機関の方は情報の真偽のチェックが主な目的になるのに対し、自治体の運用では事件や災害が起きた際にSNS上の情報から何が起きているかを正しく把握することが目的になるでしょう。こうした幅広い用途をカバーしながら高い精度を担保できるように調整していきたいと思っています。

柿崎：そうですね。求められる証拠の種類が違うので、Agentic AIのプランニングも少し変わってきます。ユーザの用途や使用履歴に合わせて自律的に改良する仕組みなども検討していく必要がありそうです。


古川：また、現在の技術はユーザが一つひとつの情報を入力して信ぴょう性をチェックするシステムになっていますが、今後は情報全体の流通を見ながら異常な動きを自動で見つけられるような仕組みも検討しています。ユーザが入力しなくても自動で信ぴょう性が疑われる情報を検知したり、一つひとつの情報だけでなく全体の流れも見られるようにしたりできるようになれば、新しい示唆も得られるはずです。他の研究チームとの連携も視野に入れながら、このような可能性についても研究を進めていくつもりです。

NECの最先端技術一覧へ戻る