ビデオゲームが登場して間もない頃、筆者は初のマルチプレーヤー型F1グランプリレーシングゲームを作ったチームのメンバーと会った。彼らが当初のプログラムを変更しなければならなかったのは、最初のレースの開始時に、ほとんどすべてのプレーヤーが自分の車をコース上で方向転換させ、対向車と衝突させてしまうことが分かったためだ。筆者自身も同じことをしたので、思わず笑ってしまった。「素早く動き、破壊せよ」というフェイスブックのモットーに新しい意味を与えるような話だ。これはまさに、人工知能（AI）が文章や画像などを生成する革新的なチャットボット（自動応答システム）で起きていることだ。誰もがそれを壊し、その限界と欠点を示そうとしている。それが人間の本性だ。ニューヨーク・タイムズのある記者は、マイクロソフトの検索エンジン「Bing（ビング）」のチャットボットを使った後、「本当にぞっとした」という。実験的なチャットボット「Tay（テイ）」を提供したマイクロソフトは2016年、ユーザーがそれを「ネオナチのセックスボット」と一部で呼ばれるものに変容させてしまった後、サービスを停止しなければならなくなった。