普段あまり政治の話題には触れないのですが、インターネットやSNSの情報流通となればこのブログに書いたほうがいいかもしれない。
そう思ったのは昨日からSNSで物凄く話題になっているこの記事についてです。
※翌々日に防衛省からコメント出たので追記しました(2022/12/11)
防衛省が人工知能（AI）技術を使い、交流サイト（SNS）で国内世論を誘導する工作の研究に着手したことが9日、複数の政府関係者への取材で分かった。
インターネットで影響力がある「インフルエンサー」が、無意識のうちに同省に有利な情報を発信するように仕向け、防衛政策への支持を広げたり、有事で特定国への敵対心を醸成、国民の反戦・厭戦の機運を払拭したりするネット空間でのトレンドづくりを目標としている。
記事タイトルを見たときは『他国から激しい世論工作を仕掛けられた際に日本が防衛するための研究』なのかと思いました (記事本文を読んだら違ったので目が飛び出ました)。
ロシアによるウクライナ侵攻でも両国民や関係国で激しい認知戦(SNSなどの情報操作)が行われているという報道があり、世界的に認知戦の研究や対策が重要になっているからです。
情報は中立性があれば良いわけではなく「どのような意図がある情報か」や「どのように偏りがあるのか」を受け手が調べれば判断できる透明性・健全性があることが何より重要だと思います。
情報戦によって日本語インターネット空間に操作のための情報やフェイクニュースが大量にバラまかれて、「調べれば分かる」ができなくなるのは何よりも避けたい。ファクトチェックや反証可能なフェイクニュース対策だけでも大変なのに、真偽不明の情報数が増えるのは恐ろしいことです。
インターネットの信頼、日本に流通する情報の信頼度を守るためにも、認知戦のための防衛研究やフェイクニュース対策に研究費が投下されるのは必要なことと思います。日本語圏らしい特性なども研究や対策が進まなければ危険が深まるばかりでしょうし。
しかし、引用した通り、共同通信の報道では防衛省が日本国民に「特定国への敵対心を醸成」して「反戦・厭戦の機運を払拭」する情報操作をAIとインフルエンサーを使って行うと書いてあります。マジすか防衛省さん（さすがにこんな露骨に「国民を洗脳します」みたいなこと言うとも思えないので、共同の勇み足的なやつかなとは思うのですが）
これは、インターネットの関係で仕事をしている人たちがターゲティングや広告やSNSの情報発信、プラットフォームがどこまで消費者を操作しうるかを考えているのと地続きの話だと思うのですね(ので、珍しく政治ネタで記事を書いた次第です)
本当に「防衛省に有利な世論」を恣意的に作ろうとするのであれば「広報」としてやって良いことと「情報操作」の区別がないことが大変に危険です。
もしも国民を操作しようという意図まではなかったのだとしても、少なくともその研究が悪用されないための監視が必要になるはずです。
産経新聞だと同じテーマでも下記の記事ような表現になっていて
認知戦は陸海空や宇宙、サイバー領域に次ぐ「第６の戦場」ともいわれる。フェイクニュースや交流サイト（ＳＮＳ）の偽情報などを駆使して国際世論や対象国の国民を混乱させ、自国に有利な状況をつくることを目的とする。
陸自に新編する専門部隊は、仕掛けられた認知戦に対処するため情報収集や分析、正しい情報の発信などを担う。令和９年度までに編成する予定で、人員や部隊の名称などは今後決める。
フェイクニュースやSNSでの真偽不明情報を流して自国に有利な状況をつくると書いてあるものの "情報戦" の解説としてのもので、防衛省(陸自)が「自国に有利な状況をつくる」ことを目的にしているとは報じられていません。
もちろん、共同通信が間違っているのかは分かりませんが、産経ではそこまでの書き方はしていない感じ……。
もし、本当に共同通信の図解にあるように「防衛省に有利な世論」「特定国への敵対心を醸成」して「反戦・厭戦の機運を払拭」をやろうとしているのであれば、国民を操作しようとするとんでもない事態であると思います。
「軍国教育やると怒られるから、インフルエンサーを使って世論を操作すれば良いのでは！？(のび太の顔)」
「さらにAI技術を使った効果や広がりの研究をして、国民が自発的にこちらの広めたい思想に自発的に変わっていったように操作すればカンペキ？(のび太の顔)」
もし、本気でこんな感じだったら嫌すぎるので、共同通信の過剰反応であって欲しい……。
一応、共同通信の記事(産経ではなく、この記事の最初に貼った共同通信の方)を読み直してみると
複数の政府関係者への取材で分かった。
と書かれており、防衛省への取材で出たとか防衛省からリークされた情報だとかではないようですので、真偽はもう少し様子を見ても良いのかもしれません。
もろちん楽観せずに、本当に記事通りならヤバいという意識は持たないといけませんし、この記事でも書いたように操作の意図はなくても悪用されないような仕組みも必要だとは思いますが。
(防衛省からコメントでましたので2022/12/11に追記)
防衛省は、「AI技術を使って国内世論を誘導する工作の研究に着手した」などとする一部報道について「全くの事実誤認であり、防衛省として、国内世論を特定の方向に誘導することを目的とした取り組みを行うことはありえない」と明確に否定しました。
そのうえで、「厳しさを増す安全保障環境やIT技術を含む技術革新の急速な進展等に伴い、認知領域を含めて、これまでの戦い方の抜本的変化に対応していくことが重要となる中、防衛省としては、情報戦対応も含め、必要な体制整備を適切に実施していく」とコメントしています。
防衛のための情報操作についての研究であって、自国民を操作するという意図のものではないというコメントが出ましたね。
そりゃあまあそうだよね、過剰反応しすぎも良くない。
とはいえ、この記事で書いたように「操作の意図はなくても」操作できる技術を研究するわけですから、慎重な仕組みが欲しい。
(追記ここまで、以降は公開時からある内容です)
民間だけでインターネットの平和は守れない時代ではありますが、国や行政・大手プラットフォームだけに任せるだけではなく、我々一般の人がどのような意識を持ってインターネットの平和(というか社会の情報そのもの)を守るか考えるのは重要なことだなあ、と今回の報道を見て思いました。
現状でも刺激的なネタに引っ張られがちなSNSの話題ですが、(それが防衛省がやるにはしても海外から来るものにしても)認知戦が激しく仕掛けられたら、今日の状態すら平和だったなあと感じる日が来るかもしれません。
平和な世界を維持したいものですね。政治の話おわり。
