人工知能はビジネスを大きく変革し得るが、この技術の利用が拡大すると、必然的にAIシステムの障害発生率も高まる。
しかし企業はまず責任あるAIに投資すべきであり、それはイノベーションの加速と競争力の強化にもつながる。
責任あるAIにおいて、低い労力で高い効果が得られる分野から着手する優先順位付けのアプローチは、リスクを最小限に抑えつつ投資を最大化できる。
人工知能（AI）システムは、業務、製品・サービス、企業戦略に統合する企業に変革的なビジネス価値をもたらしている。しかし残念ながら、この技術の利用が拡大すると、必然的にAIシステムの障害発生率も高まる。
これらの障害は、対策を講じなければ個人や社会に害を及ぼし、AIへの投資収益を損なうことになる。では、組織はどのように対応できるのか。
責任あるAI――良識を持ってAIを設計、開発、展開し、社会に公正な影響を与える実践――は、単に道徳的に正しい行いであるだけでなく、次のような具体的な利点ももたらす。 イノベーションの加速そして、組織がAIを活用して競争力を高めるための移行を支援する。
しかし現在のアプローチは主にAIネイティブ企業から生まれており、文脈、制約、文化、AIの成熟度が異なる非AIネイティブ組織のニーズを満たせない可能性がある。
企業が実践で持続的な成功を収めるには、目的に合致した個別のアプローチが必要である。多くの組織がAIへの取り組みを始めるなか、限られた資源をAIの拡大に充てるか、まず責任あるAIの拡大に投資するかという選択を迫られる段階に来ている。
持続的な成功と、より良い投資収益を実現するためには、後者を選ぶべきだと我々は考える。
AIの拡大は障害の増加につながる
現代のAIシステムは本質的に確率的――無作為性を利用するため――であり、ブラックボックスの性質を持つ。つまり、システムの入力や処理は、利用者やその他の関係者からは見えない。
さらに、AIシステムは次のような複雑な技術パイプラインの上に構築されている。これは、データを取り込み、変換し、後続の機械学習モデルに供給することで、自動コンテンツモデレーションや自動運転の実現などのビジネス目標を達成するものである。
こうした現代の成果は、データサイエンティスト、データエンジニア、UX/UIデザイナー、社会科学者、システムエンジニア、経営幹部など、社内外の多様な関係者の協働によって生み出されている。
このような多様な人間と技術の要素が組み合わさること――実際、、AIシステムは社会技術的である――によって、障害が発生しうる新たな接点が数多く生まれる。この高度に絡み合った社会技術的な構造では、障害が気づかれないままになる可能性が高い。障害が検知された場合でも、根本原因を突き止めるには多大な調査を要することが多い。
残念ながら、AIの障害の増加は技術を拡大することの自然な帰結である。端的に言えば、より多くのAIシステムを展開すると、企業が不具合を経験する可能性が高まる。
しかし、これによって企業がビジネス目標を実現するためにAIシステムの開発と利用を追求することを諦めるべきではない。むしろ企業は、これらのリスクを適切に軽減し、顧客と社会を意図しない害から守るための積極的な措置を講じる必要がある。
責任あるAIは企業のリスク最小化に役立つ
包括的な責任あるAIプログラムを導入することで、企業はこれらのリスクを最小限に抑えることができる。これには、AIシステムが組織の価値観や規範に沿って構築されることを保証するための、方針、ガバナンス、プロセス、ツール、そしてより広範な文化的変革が含まれる。
適切に導入されれば、責任あるAIプログラムは、システムの展開前に問題を特定して軽減することにより、障害の発生頻度を低減する。障害が依然として発生する可能性はあるものの、その深刻度は低く、個人や社会への害も小さくなる。
しかし、包括的な責任あるAIプログラムを構築するには時間がかかり、平均で3年を要する。つまり、企業はシステム障害が起きるまで待つことはできない。実際、AIへの取り組みを拡大する準備が整うまで待つべきでもない。むしろ早期に着手し、AIに先立って責任あるAIを成熟させる必要がある。
これにより、AIの拡大に伴うリスクを最小限に抑えるための適切な管理体制が整う。さらに付加的な利点として、AIシステムのビジネス価値も高まる。
責任あるAIの中核をなす多くのアプローチ――ステークホルダーとの対話や、よく考えられたUI/UXなど――が、より高い利用率と普及を促す優れた製品にもつながることを考えれば、これは驚くことではない。
組織ごとに独自のAIアプローチが必要である
責任あるAIの現在の最先端は、主にAIネイティブ企業から生まれている。これらの企業は、社内人材の投入や支援、成熟した技術インフラを必要とするアプローチに多額の投資を行ってきた。製品開発の期間が数年単位で計画されることも多く、堅牢な複数のステークホルダーの参画に時間をかけられる。
小規模企業、予算上の制約がある企業、または厳しいスケジュールで活動する企業――例えば、初めてAIに関する任務を与えられ、成果と投資収益を迅速に示す必要がある組織――にとっては、AIネイティブ企業のモデルに倣って責任あるAIを運用することは難しい場合がある。
代わりに、これらの企業には、人的資源と技術的資源の両方を適正な規模に調整し、長期にわたって持続させ、確かな成功をもたらすことを可能にする個別のアプローチが必要である。したがって、技術的成熟度、文化的なニュアンス、実務上の資源の制約に基づき、各企業にとっての答えは必然的に唯一のものとなる。
成功につながる一般的なアプローチがいくつかある。まず、既存のリスク、コンプライアンス、製品開発のプロセスを活用し、変更管理を簡素化して既存の資源を活かすことである。
次に、初期の進展を図りながら資源需要を最小限に抑えるため、主にリスキリングを通じて専門性を高め、的を絞った慎重な採用で補うことである。
最後に、AI製品の固有のリスクを評価する枠組みを確立し、最もリスクの高い領域や、障害が発生する可能性が最も高い領域に資源を集中できるようにすることである。
AIの資源を効果的に配分する
資源配分のトレードオフは、常に難しい選択である。特に、新たな任務を与えられ、その投資に対する信頼を裏付けるための早期の成果を出すよう求められている場合は、なおさらである。
責任あるAIには、公平性、透明性、説明責任、安全性、信頼性、プライバシー、セキュリティ、ガバナンスなど、多くの注意を要する下位領域があり、設計、開発、展開を含むAIのライフサイクル全体にわたって実装される必要がある。これは一見すると、手に負えないように感じられるかもしれない。
これらすべてにより、注意や投資の方向を誤ったり、さらに悪くすると行動が麻痺したりすることがある。しかし企業は、AIシステムを展開する際の重要な道徳的・倫理的責務を無視することはできない。
言うまでもなく、システム障害を最小限に抑えることには、もちろん強いビジネス上のインセンティブもある。企業は、いくつかの重要な検討事項を念頭に置くことで、成功の可能性を高めることができる。
AIの成熟度曲線を上っていくことは、よく知られた道筋であり、組織はAI投資から体系的に利益を得て、その過程を支える資源投資を適正な規模に保ちながら、ビジネス価値を引き出すことができる。
その道のりでより先行する組織が開発し、提唱する責任あるAIのアプローチには、それらを実行するための基盤となる技術インフラの成熟度、そして予算と人的資源の確保が、暗黙の（多くの場合明示されない）前提として伴っている。
代わりに、自社がAIの道のりのどの段階にあるかを特定し、それに続いて自社の立場と能力により適した実践を導入することで、導入が成功する可能性が高まる。
組織の従業員は通常、行動規範に署名し、組織の使命、ビジョン、目的、価値観への関与を誓約する。さらに、組織内の日常の文化や慣行の中に明文化された、明示されない暗黙の規範も存在する。
責任あるAIのアプローチを自社の使命に整合させる
責任あるAIの導入アプローチを、組織の使命、ビジョン、目的、価値観に整合させることは、成功の可能性を高める。例えば、公平性と包摂性を、組織の環境・社会・ガバナンスに関するより広範なコミットメントと明確に結び付けることなどが挙げられる。
自社が開発した教訓やベストプラクティスを、同様の立場にある他者と共有することは、自社の成果を高めるだけでなく、組織がAIシステムの導入を急速に進めるなかで、責任あるAIの能力がエコシステム内のより多くの主体にとって利用可能となるよう、より広範なエコシステムを強化することにもつながる。
責任あるAIの取り組みがどれほど進んでいる企業であっても、単独で全ての答えを持つ企業は存在しないことを忘れてはならない。協働は、資源投資からさらに多くの成果を得る方法である。
結局のところ、特に責任ある形でのAI導入の成功には、投資とアプローチの適切な順序付けが求められる。低い労力で高い効果が得られる責任あるAIの分野から着手する優先順位付けのアプローチは、リスクを最小限に抑えつつ投資を最大化する。
最終的に、AIを拡大する前に責任あるAIを拡大することは、成功への確かな道筋を示す。組織の技術的成熟度、文化的背景、資源の制約を念頭に置くことで、組織の目的と価値観を実践しながら、持続的な成功と競争上の市場優位性を築くことができる。
