情報を信じられなくなる「Perception Hacking」について : サイバーインテリジェンス

Tweet
Share

2025年2月13日

偽情報による情報戦や影響工作が近年注目を集めており、様々なかたちで報道・報告されるようになりました。選挙が実施されるたびにこの話題がニュースとして流れるような状況であり、日本国内においても例外でないようです。偽情報対策にはそもそもどのような偽情報が流布しているのかを知ることが重要ですが、ただただ偽情報の存在を周知するだけでは別の弊害を引き起こすかもしれません。

今回はそのような弊害、影響を受けた人々の認知を変えていく「Perception Hacking」について解説していきます。

エグゼクティブサマリー

選挙結果を疑わせる「Perception Hacking」
選挙以外においても信用を失わせる「Perception Hacking」が拡大
効果が薄い偽情報キャンペーンでも、大きく話題にさせることで「Perception Hacking」に持ち込める
過剰に偽情報キャンペーンを持ち上げない
正々堂々と正確な情報発信を続けることが重要

公正な選挙の棄損という偽の認識

2016年米国大統領選挙

2016年の米国大統領選挙では、下馬評を大きく覆して共和党候補ドナルド・トランプ氏が勝利しました。ラストベルトにおける米国産業の衰退、中間層の崩壊といった経済問題や文化格差などが表出した結果と論評されていますが [1]、ロシアによる選挙介入があったのではないかという疑惑も当時注目を集めました。選挙の投票システムそのものへの介入は確認されていませんが、SNSへの偽情報大量投稿などが報告され [2]、世論工作などで選挙結果を操作しようとする偽情報攻撃は、以降現在に至るまで民主主義への脅威として警戒され続けています。

2020年米国大統領選挙と議事堂襲撃事件

この年の選挙では民主党候補のジョー・バイデン氏が勝利しました。選挙に対する介入可能性への警戒上昇もあってか、選挙システムが操作されたような事例はこの年も確認されていません。ただ、この選挙より一部米メディアから「Perception Hacking」に気を付けよという記事が目立つようになってきています [3]。「Perception Hacking」、日本語直訳すると”認識改ざん”であり、その訳のとおり世界の見方を変えてしまうことです。選挙における「Perception Hacking」が意味するところは次のような考え方となります。「選挙結果を実際に改ざん・操作する必要はない。改ざん・操作されているかもしれないと人々に思わせるだけでよい。」選挙制度が不公平に運用されている、選挙結果が信用できないといった考えを流布させることが出来れば、選挙システムへのハッキングが失敗したとしても、同等以上の効果を発揮する可能性があるというわけです。この懸念は海外からの介入ではなく、他ならぬトランプ大統領(当時)によって引き起こされることとなりました。連邦議会議事堂襲撃事件です。大統領選挙の結果が最終確定するその日、抗議のために集まった人々に、選挙結果が盗まれたものだというトランプ氏の扇動が組み合わさり、憲法の規定に則った手続きを妨害しようと議事堂に暴徒が乱入、死者が出る大事件となってしまいました [4]。米国史上類を見ない事態にトランプ氏もややトーンダウンし、以降ここまでの煽り主張はしなくなったものの、2022年の中間選挙 [5]、2024年の大統領選挙でも不正可能性に言及しており [6]、米国内部からの「Perception Hacking」は深刻な問題となっています。

このように、「Perception Hacking」は選挙結果を信じないよう誘導する”認識改ざん”として語られることがこの時点では多かったように思われます。

広がる偽情報への対策と、「Perception Hacking」への懸念

各国で進む偽情報対策

2016年の疑惑以降、主に西側民主主義国を中心に世論や選挙に偽情報によって外国が介入してくる事態への警戒が高まりました。様々な組織・企業が偽情報キャンペーンを報告し、偽情報による介入は広く一般にも知られる脅威となったと言えます。また、2022年のロシアによるウクライナ侵略以降、認知戦の重要さがさらに強く意識されるようになり、各国での偽情報検出技術の開発や、SNSプラットフォーマーとの連携によるボット対策などがより推進されるようになりました。日本では災害時における虚偽の投稿といった、人命にかかわる問題が課題として議論されています [7]。

偽情報はどこにでも存在していて、見分けがつかない世界？

偽情報や陰謀論による介入は多くの国々で脅威として共通認識されており、研究や調査、報道の件数も増加、生成AIの使用など新技術への懸念も合わさって警戒はより強化されている状況です。まるで世界は偽情報で溢れており、もはやその見分けはつかないような印象さえ受けてしまいます。確かに偽情報は大量に存在していますが、だからといって何も信じられないというのは、まさに「Perception Hacking」が選挙に留まらずあらゆる情報空間に拡大した状態であると言えるかもしれません。

ただ、我々が思っているほど偽情報による介入は上手くいっていないことも多い点は留意が必要です。ルーマニアにおける大統領選挙のように、偽情報キャンペーンが世論を動かした可能性が指摘された事例も存在していますが [8]、成功したキャンペーンが注目を集めやすいという側面もあります。
Meta社は四半期ごとに自社で検出・対処した偽情報キャンペーンの情報をレポート形式で公開しています [9]。ここではロシアによるウクライナ支援妨害目的の偽情報キャンペーンなど、様々な脅威主体の事例が紹介されています。興味深い点は、その多くが初期の段階で発見・対処されていることです。Meta社以外にもOpenAI社 [10]やRecorded Future社 [11]、Google社 [12]などが報告する偽情報キャンペーンは、そのほとんどが成果を挙げることなく検知・対処されています。無論全ての偽情報キャンペーンが無害化されている訳ではなく、中には前述したルーマニア大統領選挙のように成功事例とも言えるものも存在していますが、防御側の検知技術が向上したこともあり、他国の大衆をSNSで扇動するといった介入がどの地域であっても可能かというと、そこまで簡単ではないようです。
では、何故成功率の低い偽情報キャンペーンが続くのでしょうか？攻撃コストが非常に低いことは理由の一つでしょう。もう一つ、前述したMeta社によるレポートは「Perception Hacking」がキャンペーンの目的の可能性があると警告しています [13]。つまり、偽情報キャンペーンの効果が薄かったとしても、「偽情報には大きな力があり、それが世界に溢れている」と対象に思わせることが出来れば、人々は情報を信頼しなくなります。過剰に偽情報を警戒するリスクかもしれません。
昨年の福島原発における処理水放出に伴って、中国からの偽情報キャンペーンが実施されたことは記憶に新しい事例です [14]。その後も琉球独立と題打つ投稿 [15]や偽ニュースサイトの乱立 [16]など、大手メディアもこの介入を積極的に報道しています。ただ、これらの偽情報キャンペーンによって日本の世論が中国有利に傾いたかというと、むしろ逆効果な面が見受けられ [17]、ここにも偽情報キャンペーンの難しさが表れているかもしれません。しかし、この場合も懸念点は存在しています。様々な言論や意見が他国の介入の結果であると考えるようになってしまうかもしれないことです。「自分の反対者の意見は他国の影響を受けているのだから、議論に値しない。他国の影響を受けた政治家や学者がコメントしているに違いない。」ここまで考えが進んでしまえば、「Perception Hacking」の影響下です。実際、SNS上では偽情報の報道に合わせて関係ない事例が海外からの介入と主張するような投稿がたびたび見られますし、「○○の手先」のような政治家への誹謗中傷はいくらでも見つけることが出来ます。

偽情報対策のバランス、我々はやられる一方なのか

偽情報キャンペーンの影響を過大に報じない

前述したMeta社やOpenAI社のレポートは日本の報道でも引用されていますが [18]、このとき大事な点が欠落しています。偽情報キャンペーンの影響や効果です。元のレポートでは、ほとんどのアカウントがほぼ注目されず、影響を持てるような段階になる前に検知されたことが示されていました。しかし、引用先の日本語記事ではこの点への言及が無く、元のレポートに辿り着けていない人は、偽情報による外国からの介入が大きな力を持っていることが報告されたと感じてしまうかもしれません。
このように、元のレポートと日本での伝えられ方に違いがあり、この差異が「Perception Hacking」の手助けになってしまっている現状があります。社会に警鐘を鳴らすつもりが「Perception Hacking」に手を貸すことにならないよう、何が真に警戒すべき偽情報キャンペーンなのか、過大に報じないことも重要であると考えます。

正々堂々と正確な情報発信を続ける

私たちは偽情報による介入、認知戦を一方的に受け続けるだけなのでしょうか。民主主義国家が偽情報キャンペーンを仕掛けるのは道徳的に見ても適切ではないと思われますし、自国民からの信用を失い「Perception Hacking」を加速させてしまうかもしれません。
むしろ、様々な媒体を使用して、正確な情報発信や自由な価値観を堂々と発信し続けることが対抗になると筆者は考えています。権威主義国家と言われる国々は、国内の統制維持に莫大なコストをかけていることがよく知られており、情報統制や国外からの遮断には特に気を使っています [19] [20]。つまり、自由な価値観やコンテンツ、正確に事実を伝える報道は、その存在だけで権威主義体制の維持に大きな負担を強いることが出来るのです。また、自分たちは正々堂々と発信を続けているという自信は、「Perception Hacking」の緩和にも役立つかもしれません。