「悪意のあるAI」が遂げた
驚異的な進化

　世界では本当の意味で、民主主義を根底から破壊する「AIプロパガンダ」がすでに始まっているからだ。

　ノルウェーにある欧州有数の研究機関SINTEF（シンテフ）、ドイツのマックス・プランク研究所、米イェール大学、米ハーバード大学など世界各国の研究者らが「Science」に今年1月、衝撃的な論文を発表した。

「How malicious AI swarms can threaten democracy」（悪意のあるAI群が民主主義を脅かす可能性）

　この論文は一言で言えば、“人間のふり”をしたAIボットがSNS上の議論をリードして“いいね”を押し拡散する事によって、民意を製造できるようになった、という現実を指摘している。

　皆さんもSNSをやっていると「あ、これはAIボットっぽいな」と感じる投稿を一度は見たことがあるだろう。このような従来のAIボットは同じ投稿をコピペしていくだけだったり、不自然な言い回しをすることで、人間やシステムによって見抜くことができた。

　しかし、この論文で取り上げている進化したAIボットは、相手の趣味嗜好や反応に合わせて、人間よりも人間らしい表現でメッセージを送ることができる。そして従来のボットに比べて大規模で、ほとんど人間の監視なしに複数プラットフォームで活動できるという。

　そんな「悪意のあるAI群」によって何ができるようになったのかというと、例えば1人の人間の攻撃者が、このような「AIペルソナ」を数千体操って、SNS上の特定のコミュニティーに潜入、会話を繰り返すことで嘘や偏った意見を「みんながそう思っている」かのように演出することができる。

　民主主義の世の中では、人は「みんなが支持しているもの」「みんなが賛同しているもの」にどうしても流れてしまう。つまり、「人間のふり」ができるAIの群れが「多数派意見」をでっちあげる事で、本物の人間の政治信条や思想もそちらへ誘導することができてしまうというのだ。