SNSの誤情報ばらまき・意図的な操作にどう立ち向かうのか──『操作される現実―VR・合成音声・ディープフェイクが生む虚構のプロパガンダ』

冬木 糸一2020年11月05日 印刷向け表示
  • このエントリーをはてなブックマークに追加
操作される現実―VR・合成音声・ディープフェイクが生む虚構のプロパガンダ
作者:サミュエル・ウーリー
出版社:白揚社
発売日:2020-11-04
  • Amazon
  • honto
  • e-hon
  • 紀伊國屋書店
  • HonyzClub

この1〜2年の間に、ソーシャルメディアがもたらすフェイクニュースの蔓延、政治利用について書かれた本が何冊も邦訳刊行されてきた。

デイヴィッド・パトリカラコス による『140字の戦争 SNSが戦場を変えた』は2014年のガザ侵を取りあげ、SNSがいかに人を動員するのか、しかも多くの人は事実性よりも感情を優先して判断することを描き出していくし、ピーター・ポメランツェフによる『嘘と拡散の世紀:「われわれ」と「彼ら」の情報戦争』はフィリピンのドゥテルテの選挙戦でフェイスブックを用いて自分たちに有利な偽情報を流し続けたSNS戦の現状など、数々の嘘の拡散事案をレポートしている。

本年9月にも『マインドハッキング: あなたの感情を支配し行動を操るソーシャルメディア』が刊行されている。こちらは、ケンブリッジ・アナリティカ(CA)という会社がトランプの大統領選にてフェイスブックを用いた大規模な誘導・操作をしている実態を、CAからの内部告発者クリストファー・ワイリーが明らかにした一冊である。

最近では、ツイッターが米大統領選を控えてリツイートの仕様に、ツイートを無思考で拡散させる前に一拍考えさせるための変更が加えられるなどの動きがあったが、それは、現実的に米大統領選ではSNS上で大規模な誘導・操作が行われている背景があってのものである。

こうしたSNS上の操作、プロパガンダはツイッターや米大統領線だけで行われているわけではない。本書『操作される現実』は、そうしたコンピュータ・プロパガンダについて話題になりはじめた2016年の米大統領選以前、2012年と初期の頃から研究を重ねてきた専門家のサミュエル・ウーリーによる、2020年の1月に刊行されたばかりの最新の動向と、こうした状況にどう対抗していけばいいのかについて書かれた一冊だ。類書と異なるのは、SNS上でのプロパガンダだけでなく、VRやARといった新しいテクノロジー領域の危険性について触れているところにある。

コンピュータ・プロパガンダ

コンピュータ・プロパガンダはどこから始まったのかを特定するのは難しいが、最初に十分な裏付けのある形で存在が確認されたのは、2010年のマサチューセッツ州上院議員特別選挙の最中だったという。マサチューセッツ州は長い間米民主党の牙城で、今回も民主党の圧勝と思われていたが、この時は民主党候補であったコークリーを攻撃するツイッターユーザーの集団がいた。

その攻撃者たちは、コークリーが反カトリック的であると主張していたのだが、これは人口の半数がカトリック教会のメンバーであるとするマサチューセッツ州では選挙結果を左右する重大な主張だ。結局、その集団攻撃はボットによって引き起こされていたことが判明するわけだけれども、実際にこれが効果をあげたのか、さまざまなメディアがコークリーの反カトリック傾向とされるものを取り上げ、最終的には共和党が選挙戦を制して、上院の議席を獲得してしまった。

このボットによる集団攻撃の背後にいたのは、アイオワ州のティーパーティー運動家(保守派の政治活動を行う人々)の小さなグループで、自分たちが支援する候補者を応援し、反対派を攻撃していた。ボットによる総攻撃は、少しでも技術があれば同じことができるので、これと同じことは(政治的利用だけではなく、個人への攻撃でも)今世界中で起こっている。

ソーシャルメディアの専門家は、選挙戦から選挙戦へと渡り歩き、ボットや偽情報、政治的スパムを使ったキャンペーンにミームを用いたものなど、様々な手法を試しながらどれが最も効果的かを計測しているという。初期の頃はボットの稼働テストなどを4chanのような掲示板を使ってテストしていたが、次第にサブレディット(特定の話題について話し合う日本の掲示板の板のような場所)へと移行し、炎を背景にヒラリー・クリントンとキリストがボクシングをしているようなミームを用いて、フェイスブックやツイッター、ユーチューブに拡散させたりする。

著者はボット開発者らやこうしたソーシャルメディア専門家に知り合いが多く、こうした具体的なSNSを用いた選挙戦の手口が広く書かれているのもおもしろいポイントのひとつ。

未来のプロパガンダ

将来にはどのようなことがおこりえるだろうか? 一つには、人工知能の高度化による、より巧妙になったプロパガンダがあるだろう。たとえば、最近RedditのサブフォーラムでOpenAIの言語モデルGPT-3が文章を生成してコメントをしていたのに、長い間誰も気づいていなかったことが明らかになった。それが判明したのは文章の内容が変だったからではなくて、コメントがあまりに早いのに文章が長いという、人間には難しい速度でなされていたことがきっかけだった。
https://www.gizmodo.com.au/2020/10/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talking-about-the-illuminati/
少なくとも掲示板上では、我々は相手が人工知能なのか人間なのか、判別しがたくなってきている。これが政治的な誘導に用いられるのは明らかだろう。こうした動きは、機械学習によってより効果的に相手にフィッシングサイトを踏ませるようパーソナライズさせたAIボットの出現(すでに存在する)などと相まって、今以上に驚異になることが考えられる。

じゃあ我々はされるがままってこと? と思うが、こうしたボットに対する対抗策も生み出されつつある。ソーシャルメディア観測所(OSOMe)は、機械学習を利用してボットを検出するツールを開発している。このツールは、アカウントのプロフィール、友人、社会的ネットワーク構造、行動パターンなどの特徴を把握してボット・スコアを出す。こうした技術が普及すれば、大量のボット&それを検知するボット判定ボットがしのぎを削る世界が訪れるのかもしれない。

未来に起こり得るプロパガンダの一つに、ディープフェイクがある。これはAIを使って偽の動画を生成する技術で、現状はもっぱらポルノ分野で用いられているが、ミシェル・オバマ前大統領夫人がストリップをしている映像を生成して嫌がらせするなど、動画の情報量は文字とは比べ物にならないからその被害も大きい。だが、こちらもすでに対抗手段が作られていて、映像に映っている人のまばたきのパターンからフェイク映像であるかどうかを判定する技術がある。

これ、ディープフェイクのアルゴリズムが人間の顔の画像を使って学習しているはずで、ほとんどの画像は目が開いている写真だから、それを元につくられたディープフェイクの画像・映像は、まばたきのパターンが自然ではなくなることに注目しているらしい。

フェイクを作り出すAIとそのフェイクを見破るための技術の攻防は、ディックの『アンドロイドは電気羊の夢を見るか?』や『ブレードランナー』に出てくる、自分自身ですらも機械であることを認識できないほどのアンドロイドを人間が非人間か判定するフォークト=カンプフ検査を思い起こさせる。「お前は人間か、アンドロイドか?」という問いかけが現実になってるのだ。

おわりに

というわけで、けっこうな文字数になってしまったのでここらで紹介を終わりにするが、本書には他にもVRやARといった領域がどのようにフェイク生成に使われていくのかという未来の可能性についても語られている。一般の人間はコンピュータ・プロパガンダにおいて金も権力もある勢力に、意図せずして歩兵として利用されやすい。そんなのまっぴらだ、と思うひとにとって、本書はかなりおもしろいので、ぜひ手にとってみてね。

ノンフィクションはこれを読め!  2014 - HONZが選んだ100冊
出版社:中央公論新社
発売日:2014-10-24
  • Amazon Kindle

『ノンフィクションはこれを読め! 2014』電子版にて発売中!