共通して問うてきたのは「AIに何を任せ、何を人間の手に残すのか」という、たった1つの問いです。
そして連載最終回の本稿では、最前線にいる企業でさえ、競争と資本の圧力の前に自ら設けた原則を揺らがせる姿を見てきました。ここから見えるのは、手に残すべきものを明文化したとしても、それを守り切ることが容易ではないという現実です。市場競争も、法的構造も、倫理を自動では守ってくれません。
最後の防波堤は
「倫理を担う人間」である
AIが知的作業のかなりの部分を担うようになる中で、人間に残る役割とは何でしょうか。連載を通じて何度も形を変えて現れたこの問いに、最終回で1つの答えを示したいと思います。
それは「倫理的な判断を担うこと」です。
AIは、与えられた目的を効率的に最大化します。しかし「そもそも、その目的が誰かを傷つけていないか」「長期的に社会に害をもたらさないか」「短期的な利益のために犠牲にしてはならない価値を犠牲にしていないか」――こうした問いは、AIが自動で解いてくれるものではありません。目的そのものの妥当性を問う営みは、人間の仕事として残ります。
この問題意識を、プロダクトマネジメントの実践に落とし込んだ書籍『プロダクト倫理：あなたのプロダクトは誰かを傷つけていないか』を、私は先日上梓しました。
プロダクトの世界では従来、3つの判断軸が語られてきました。実現性（技術的に作れるか）、望ましさ（ユーザーが欲しがるか）、存続可能性（事業として続けられるか）です。新著ではここに「第4の軸」として「倫理性」を加えることを提案しています。
倫理性には、自律性、透明性、公正性、安全性の4原則が含まれます。書籍では、PayPalの「グロースハック」の倫理性、ソーシャルゲームの「コンプガチャ」問題、ユーザーを意図しない行動に誘導するインターフェース「ダークパターン」、Facebookのデータスキャンダル、ソフトウェアの欠陥が招いた「Boeing 737 MAX」の悲劇、DeNAの「WELQ」問題といった実際に起きた事案を取り上げ、「なぜプロダクトは人を傷つけるに至るのか」の構造を解きほぐし、明日から使えるチェックリストへと落とし込んでいます。
