トロッコ問題に陥らないよう
にするのが現実的な解
──最後のトピックは「DXの組織的な罠」です。AI戦略を含めて企業がDXを実際に浸透させる際にはどんな困難があるのか、それにどう対処していけばいいのかを教えてください。
北野 最終的なバリュープロポジションが何かというのを明確にすることが肝心です。企業にとって、クライアントに提供できる価値は何なのか。あるいは、自社のプロセスにとって、DXを推進することの価値は何なのか。ところが、そういう視点がないままに、ただAIを入れるという会社が少なくない。「何でもいいからAIをやれ」と言われても、現場も、業務委託を請けた側も、右往左往するしかないわけです。だから、何のためにDXをやるのかを明確にする必要があります。
もう1つは、ハーベストループではAIに学習させるためにいろんなデータを収穫するわけですけれども、その中にはクライアントの情報や、B2Cの場合はコンシューマーの情報が含まれます。そのときに重要になるのは、AIエシックス（倫理）です。
たとえば、自動運転では、倫理規定がちゃんとあって、どこまでやってよくて、どこはやってはいけないか、やるんだったらどういう導入のプロトコルに基づいてやらなければいけないのかが決まっていないと、当然トラブルを招きます。
わかりやすいのが顔認証で、いま、アメリカの顔認証サービスはほとんど停まっています。顔認証によってマイノリティに対する差別や偏見が助長される危険があるからです。ですが、それはAIが悪いというよりも、そもそもネット上にあるデータに偏りがあるからです。しかし、現実にはバイアスのないデータはつくれないので、現状では顔認証サービスは提供しにくい。
それでも顔認証サービスをやりたければ、技術論だけではなく、どうやってコミュニケーションするのか、導入手続きをどうするか、倫理基準をどうするかという一連のエコシステムをつくっていく必要があります。テクノロジー論だけだと、最終的にはモジュール単位の商売になるか、SaaSでAPIを売るだけの商売になってしまう可能性があるので、全体を革新するためには、それ以外のファクターがすごく大きい。そこまで網羅的に対応する必要があると思います。
平野 まずパーパスが明確に設定されていて、そのパーパスが現場まで浸透しているのがいちばん大事です。パーパスが明確になっていると、どのKPIを改善していけばいいのか、全社的に合意が取りやすい状況です。
もう1つはトップのコミットメントがあり、かつ、現場にもめちゃめちゃ仕事ができる人というのがそろっていて、この2段構えができていることが重要です。社長がCDOを兼務したり、次期社長候補がCIOになったりして、トップのコミットメントがしっかりある。プラス、社内のいろんな部署と話が通じる人が現場にいてくれると、非常にやりやすいと感じます。結局、デジタルはすべての組織レイヤーに入っていくものなので、情報システム部門の人だけでは完結できないからです。
平野未来（ひらの・みく）シナモンAI代表
シリアル・アントレプレナー
東京大学大学院修了。レコメンデーションエンジン、複雑ネットワーク、クラスタリング等の研究に従事。2005年、2006年にはIPA未踏ソフトウェア創造事業に2度採択された。在学中にネイキッドテクノロジーを創業。iOS/Android/ガラケーでアプリを開発できるミドルウェアを開発・運営。2011年に同社をミクシィに売却。ST.GALLEN SYMPOSIUM LEADERS OF TOMORROW、FORBES JAPAN「起業家ランキング2020」BEST10、ウーマン・オブ・ザ・イヤー2019 イノベーティブ起業家賞、VEUVE CLICQUOT BUSINESS WOMAN AWARD 2019 NEW GENERATION AWARDなど、国内外での受賞多数。また、AWS SUMMIT 2019 基調講演、ミルケン・インスティテュートジャパン・シンポジウム、第45回日本・ASEAN経営者会議、ブルームバーグTHE YEAR AHEAD サミット2019などへ登壇。2020年より内閣官房IT戦略室本部員および内閣府税制調査会特別委員に就任。2021年より内閣府経済財政諮問会議専門委員に就任。プライベートでは2児の母。
北野 先ほどのAIエシックスに関連して、トロッコ問題に触れておきます。いくつかバリエーションがありますが、たとえば自動運転車が歩行者と乗っている人のどちらかの安全しか保てないという状況になったとき、どちらを守るかというと、話はわりと簡単で、現実に起きることは「乗っている人」です。乗っている人を守らない車は売れないからです。
ただ、それ以前の問題として、そういう選択をしなければいけない状態になった時点で負けなんです。見通しの悪い道路のすぐ先で、高齢者が道路を横断していることを検知した。ブレーキは間に合いそうもない。ハンドルを左に切ると、歩道で立っている子どもをひいてしまうかもしれない。右に切ると、自分が対向車の列に突っ込む恐れがある。さあどうする、というのがトロッコ問題なわけですが、そうならないように、見通しの悪い道路ではあらかじめスピードを落とすなどして制御するのが、本来の姿です。なので、そもそもトロッコ問題に入らないというのが現実的な解だと思います。
（鼎談おわり）
