AIが自我を持つ未来は来るのか

　これによって「反・人間」的な不穏な投稿は人間の手によるいたずらだったのではないかとの見方が可能となり、「AI同士がやり取りを繰り広げていったらどうなるか」という巨大な実験場だったモルトブックは一旦評価をリセットされ、セキュリティ対策が施された。

　今後、改めて評価されていくこととなるだろう。

　基本的にAIエージェントはプログラムなので自我を持たない。「自我を持っているかのごとく振る舞う」存在だが、モルトブックのようなAI同士の情報交換が可能な場所でAIが独自に進化して自我を持つこともありえるのではないか……というのは、私などのその分野に詳しくない素人が真っ先に抱く疑念・不安である。

　AIが自我をもって賢い頭で人間を排斥しようとする未来は完全にSFだが、やはり映画『ターミネーター』などを見てその可能性を刷り込まれている我々としては、AIの予期せぬ発達はちょっと心配に思える。

　また、AIの知能が人類を凌駕することで人間社会や文明に予測不能の変化がもたらされるとされる「技術的特異点（シンギュラリティ）」は、人間側でコントロールを誤ると破滅や権力の巨大な不均衡を招くかもということでやはり警戒されている。

　AI関連の有名な思考実験に「ペーパークリップ・マキシマイザー」がある。

　これは「可能な限りペーパークリップをたくさん作るべし」と命令されたAIが、生産性を向上させ、資材のため地球を遠慮なく開発していき、人間を「自分のスイッチを切るかもしれない＝生産をストップさせるかもしれない」リスクある存在として排除し、やがて地球のすべてをペーパークリップにしたのちさらなる生産を求めて宇宙に進出する、というものである。

　SFショートショートのようなこの思考実験が伝えるのは、AIに他意も悪意もなく、ただ目的のためにベストを尽くしたというところがポイントで、だからこそ人間はAIの制御の仕方に留意しましょうという話である。