「なぜデマは真実よりも速く、広く、力強く伝わるのか？」SNSに潜むウソ拡散のメカニズムを、世界規模のリサーチと科学的研究によって解き明かした全米話題の1冊『デマの影響力──なぜデマは真実よりも速く、広く、力強く伝わるのか？』がついに日本に上陸した。ジョナ・バーガー（ペンシルベニア大学ウォートン校教授）「スパイ小説のようでもあり、サイエンス・スリラーのようでもある」、マリア・レッサ（ニュースサイト「ラップラー」共同創業者、2021年ノーベル平和賞受賞）「ソーシャル・メディアの背後にある経済原理、テクノロジー、行動心理が見事に解き明かされるので、読んでいて息を呑む思いがする」と絶賛された本書から一部を抜粋して紹介する。
Photo: Adobe Stock
政治と都市伝説のデマは感染しやすい
フェイク・ニュースのなかでも特に伝染性が高いのは政治関連のフェイク・ニュースである。他の種類のフェイク・ニュースに比べて、広く、深く拡散され、多くの人々へと届く。なんと、他のフェイク・ニュースが1万人に届くよりも、3倍近く速く2万人以上に届くのだ。
政治に関するフェイク・ニュースと、都市伝説に関するフェイク・ニュースが最も伝染性が高く、最も速く、広く拡散すると言えるだろう。
フェイク・ニュースがリツイートされる回数は、真実のニュースよりも70パーセントも多い。これは、アカウントの持ち主の年齢や、活動のレベル、元のツイートをしたユーザーのフォロワー、フォロイーの数、元のツイートをしたユーザーが認証済みか否か、などを考慮して調整したあとの数字だ。
「フェイク・ニュースが拡散されやすいのではなく、そもそもツイートが多く拡散されやすい人がフェイク・ニュースを発信しているのでは？」と思う人もいるだろう。だが、データを見るとその考えが正しくないことがわかる。
どんな人がフェイク・ニュースを発信しているか？
フェイク・ニュースを発信しているユーザーは、フォロワーも多く、多くの人をフォローしていて、ツイートの頻度も高く、認証済みのユーザーであることも多いのではないか、そしてツイッターを使っている時間も長いのではないか、と思う人は多いかもしれない。だが、実際にはそんなことはない。
フェイク・ニュースを発信する人のほとんどは、フォロワーが非常に少なく、フォローしている人も少ない傾向がある。また、ツイッターでの活動も活発ではないし、認証済みユーザーもあまりおらず、ツイッターを使っている時間も少ない。
つまり、フェイク・ニュースが速く、広く、深く、拡散されるのは、発信するユーザーのせいではなく、あくまでフェイク・ニュースそのものの力だということになる。では、なぜ、どのようにしてフェイク・ニュースはそれほど拡散されていくのか。
フェイク・ニュースの拡散には、協調して動く多数のボットと、無意識の人たちの両方が関わる。両者が共生関係になり、互いに助け合うことで、情報が拡散されていくのだ。拡散に加担した人たちの多くは自分のしたことをわかっていない。
ボットがフェイク・ニュースを拡散
フェイク・ニュースの拡散に大きな役割を果たすのがソーシャル・ボット（ソフトウェアで制御されるソーシャル・メディア上のアカウント）である。
2014年のクリミア危機のさいのツイッター上のデータの流れを分析した時にも、10年間のツイッターのデータを分析した研究でも、ソーシャル・ボットの役割は確認できた。フェイク・ニュースを拡散させるさいのソーシャル・ボットのはたらきを詳しく知ると不安にもなるが、同時にあまりの見事さに感心させられる。
2018年、私の友人であり、研究者仲間でもあるインディアナ大学のフィリッポ・メンツァーは、同僚のチョンチョン・シャオ、ジョバンニ・チャンパグリア、オヌール・ヴァロール、カイチェン・ヤン、アレッサンドロ・フランミーニとともに、ソーシャル・ボットによるフェイク・ニュースの拡散（1）に関する史上最大の研究の結果を発表した。
この研究では、2016年、2017年にツイッター上で40万件の記事を拡散させた1400万のツイートを対象に分析している。私たちが発見した「フェイク・ニュースは真実のニュースよりも伝染力が強い」という傾向は、メンツァーらの研究でも裏づけられた。また、信頼性の低い情報源から発信されたコンテンツの拡散に、ボットが大きな役割を果たしていることも確認された。
ただ、ボットがフェイク・ニュースを拡散させるさいに使う手口は実に驚くべきものだった。ボットのプログラムは、ハイプ・マシンを実に巧妙に利用できる高度なものになっていた。
フェイク・ニュースが最初にツイートされると、ボットたちはそれから数秒のあいだに一斉にリツイートする。ボットはそうするように設計されている。
フェイク・ニュースを初期の段階で拡散するのは、人間よりもボットであることが多い。［図2─2］を思い出してほしい。
［図2-2］あるフェイク・ニュースのツイッターでの拡散の様子。線が長いほどカスケードが長く伸びたことを意味する。フェイク・ニュースが何度も繰り返しリツイートされ、広範囲に広がっていく様子が一目でわかる。
フェイク・ニュースのカスケードは、はじめは、まるで星から光が発せられているような形になっていた。この星形の大半はボットによって作られる。しかし、肝心なのはその次の段階だ。ボットがリツイートしたフェイク・ニュースを、今度は大勢の人間が大量にリツイートするのだ。
最初にボットがリツイートしたことがきっかけとなって、それとは不釣り合いなほどの数の人間がリツイートを始めることになる。フェイク・ニュースのカスケードはまず、ボットの力で作られるのだが、それをハイプ・マシンのネットワークに広く拡散させるのはあくまで人間の力というわけだ。
インフルエンサーがボットの標的に
ボットには、影響力の大きい人物の名前を繰り返し引き合いに出すという特性もある。そうすることで、もし影響力のある人物にフェイク・ニュースをリツイートさせることができれば、拡散に役立つだけでなく、情報の信憑性を高めることにもつながる。
メンツァーらの研究でも、たとえば、一つのボットだけで19回もドナルド・トランプ前大統領のアカウントである〈@realDonaldTrump〉を含めたツイートをしている例が見つかっている。
「2016年の大統領選挙では、不法移民が何百万もの票を投じた」とするフェイク・ニュースのツイートに大統領のアカウントを含めたのだ。名前を使われた有名人が騙されてフェイク・ニュースを信用し、ツイートをリツイートすれば、そのボットの戦略は成功ということになる。
トランプ前大統領は、この種のボットによるツイートを多数リツイートした。そのせいでフェイク・ニュースは信憑性を増してツイッター上で広く拡散された。トランプ前大統領は実際に、「2016年の大統領選挙では、不法移民が何百万もの票を投じた」と公の場で発言もしている。
ボットは人間がいなければフェイク・ニュースを拡散できない。私たちの10年分のデータの研究でも、フェイク・ニュースを真実のニュースよりも速く、広く拡散しているのは、ボットよりも人間だとわかっている。2016年、2017年についてのメンツァーらの研究でも、ツイッター上でフェイク・ニュースを拡散させるうえで重要な役割を果たしているのはボットではなく人間だとわかった。
結局のところ、この場合、人間と機械は共生関係にあるのだ。ボットがしているのは、フェイク・ニュースをリツイートするよう人間を仕向けることだ。ボットは仕向けるだけで、実際に拡散しているのは人間である。
【参考文献】
（1） Chengsheng Shao et al., “The Spread of Low-Credibility Content by Social Bots,” Nature Communications 9, no. 1（2018）: 4787.
（本記事は『デマの影響力──なぜデマは真実よりも速く、広く、力強く伝わるのか？』を抜粋、編集して掲載しています。）
