悪意を持った利用を妨ぐ社会的な仕組みの構築が急務

 それでもまだ懸念は残るかもしれない。知性と判断力を備えたAIが意図的に人間に悪事をはたらこうとしたり、危害を加えることがないと言い切れるのか。

 中西氏は言い切っている。そうした事態は「人間自身が悪さをしようとしない限り」起こらない、と。それを信じるとするならば、悪意のある人間にAIを悪用されない社会的な仕組みをできるだけ早い段階で整備する必要はあるだろう。

 2016年12月、国連の特定通常兵器使用禁止制限条約締約国123ヵ国は、人間が介在しない完全自律型兵器の禁止に向けた公式な取り組みを進めることで合意した。

 ロボットが人を殺しにくるというのは、現時点ではあくまで「ターミネーター」シリーズのようなSF映画の中だけのもの。完全自律型殺人兵器はまだ実用化されたわけではないが、技術的には近い将来実用化は可能だろう。いったん実用化されてしまえば必ず使われるに違いない。そうなる以前に開発自体を止める協議がまずは人間同士で必要だ。

 カーツワイル氏は、技術開発が2005年時点より加速したため、シンギュラリティが2029年に早まるとの見方を示している。今後、さらに早まる可能性もある。実は、あまり時間は残されていない。

 本書を読めば、人間が理性を捨てさえしなければ、シンギュラリティは決して怖いものではないことは理解できるだろう。問題は、画期的な新しい技術の平和利用を確保するために、社会面で何を整備すべきかを考え、国家間などの利害を超え、理性をもって話しあえるかだ。

 その際には、本当に怖いのはシンギュラリティではなく、いつまでたっても戦争を止めたがらない人間の方だということを肝に銘じておいた方がいいだろう。

(文/情報工場シニアエディター 浅羽登志也)

情報工場
2005年創業。厳選した書籍のハイライトを3000字にまとめて配信する書籍ダイジェストサービス「SERENDIP(セレンディップ)」を提供。国内の書籍だけではなく、まだ日本で出版されていない、欧米・アジアなどの海外で話題の書籍もいち早く日本語のダイジェストにして配信。上場企業の経営層・管理職を中心に約8万人のビジネスパーソンが利用中。 https://www.serendip.site