AIの技術進化と利用拡大が急速に進む一方、バイアスやデータ流出の懸念など新たな課題への社会的関心が高まっており、AIならではのリスクを適切に制御する「AIガバナンス」の構築・運用は、企業にとって待ったなしだ。AIがもたらすメリットの享受とリスクの抑制を両立するガバナンス体制をいかに整備するか――。KPMGジャパンの2人の専門家に聞いた。
AI活用に欠かせないガバナンスの視点
編集部（以下青文字）：AIを活用するうえでの難しさや課題はどういった点にありますか。
島田：昨今のAIは技術革新のスピードが非常に速く、活用が急速に広がっています。そのため、活用ルールを決めてもすぐにアップデートが必要で、この技術革新の速さにどう対応するかが、AIガバナンス構築と運用における重要な課題になっています。特に生成AIに関しては、知的財産権の侵害、偽情報・誤情報の出力といった新たな社会的リスクもあります。
左│島田武光氏 右│熊谷 堅氏
そうした中、高い信頼性が担保された形でのAI活用を進めるには、技術面と組織面、両方の対応が必要です。具体的には、AIモデルやそれを組み込んだAIシステムなどの技術的信頼性、組織、業務プロセス、内部統制などの組織的信頼性、その両面が一体となったガバナンスが求められます。
AIガバナンスというと「リスクを低減するために何らかの規制を設け、守りを固める」というイメージが一般的ですが、許容できるリスクの範囲内で活用を促進することも重要です。両方のバランスが保たれてこそ、AIがもたらす便益を享受しつつ、リスクを低減することができます。
熊谷：AIガバナンスにおいては、リスクベースアプローチが基本です。自社のビジネスにおいて、リスクの高いAIモデルやユースケースのカテゴリーを設定し、リスクが高い領域は相応のコントロールを整備する一方、リスクが高くない領域や所定の条件に合致しない場合、必要最小限のルールに準拠して積極的に活用機会を拡大する――。今後整備される法規制やガイドラインなども考慮し、いくつかのカテゴリーとその対応を企業の方針として定め、社員にそのメッセージを伝えることが肝要です。
たとえば、人の健康や安全、財産や権利、環境や国家安全保障に影響を及ぼす場合、法規制だけではなく、社会受容性も踏まえて慎重に検討する必要があるでしょう。AIの性能や活用方法が高度になるにつれ、AIから得られる便益とリスクを適切に評価したうえで、経営判断が必要になるケースも十分にありえます。半面、日常的な事務処理や資料作成などの業務効率化は、情報の取り扱いへの配慮は必要であるものの、リスクは総じて低いため、全社を挙げて推進するなど、2つのアプローチを巧みに使い分けることが大事だと思います。
現在、多くの企業では、AIの構築や活用の可否を発生時点で個別に検討する傾向があるようです。技術進化と普及のスピードは目覚ましく、自律型のAIエージェントの登場からもわかるように、人間同等の汎用性を有するモデルと、将来そのAIがさまざまな場面で関わる可能性に備え、AIへのアプローチやリスクへの感度を高めておく必要があるのではないでしょうか。
