スピードを落とさずにAIガバナンスを適切に実施する

企業がAI の実験から大規模な活用へと移行するにつれて、ガバナンスは取締役会レベルの懸案事項となっています。経営幹部にとっての課題は、もはやガバナンスが重要かどうかということではなく、スピード、イノベーション、信頼を同時に実現する形で、いかにガバナンスを設計するかということです。

そのバランスが実際にどのように機能しているかを探るため、Databricksの製品担当シニアバイスプレジデントであるデビッド・メイヤー氏にお話を伺いました。さまざまな業界や地域の顧客と密接に連携することで、David は、組織がどこで真の進歩を遂げているか、どこで行き詰まっているか、そして今日のガバナンスに関する決定が明日の可能性をどのように形作るかを明確に把握しています。

私たちの会話で際立っていたのは、彼の現実的な考え方でした。AI ガバナンスを何か新しいものや抽象的なものとして扱うのではなく、David は一貫して基本原則、すなわちエンジニアリングの規律、可視性、説明責任に立ち返りました。

スピードアップのための手段としてのAIガバナンス

キャサリン・ブラウン: さまざまな業界の顧客と多くの時間を過ごしていらっしゃいますね。今後1～2年の計画を立てるにあたり、リーダーたちのガバナンスに対する考え方はどのように変化していますか？

デビッド・メイヤー: 私が見ている最も明確なパターンの1つは、ガバナンスの課題が組織的なものであると同時に技術的なものであり、その2つが密接に結びついているということです。組織的な側面では、リーダーたちは混乱を招くことなくチームを迅速に動かす方法を模索しています。

苦労している組織は、過度にリスクを嫌う傾向があります。あらゆる決定を中央集権化し、面倒な承認プロセスを追加し、意図せずしてすべてを遅らせてしまいます。皮肉なことに、それはより安全な結果ではなく、より悪い結果につながることがよくあります。

興味深いのは、強力な技術的ガバナンスが、実は組織の柔軟性を高めることができるという点です。リーダーがどのデータ、モデル、エージェントが使用されているかを明確に可視化できれば、すべての意思決定を手動で管理する必要はありません。システム全体で何が起きているかを理解しているため、チームにより大きな自由を与えることができます。実際には、これはチームがモデルやユースケースごとに許可を求める必要がないことを意味します。アクセス、監査、更新は一元的に処理され、ガバナンスは例外としてではなく、設計によって行われるのです。

キャサリン・ブラウン: 多くの組織が、速すぎる動きとすべてをロックダウンすることとの間で板挟みになっているように見えます。どのような企業がこの点をうまく実践しているとお考えですか？

デビッド・マイヤー: 私は通常、2つの極端な例を目にします。

一方では、「AI ファースト」を掲げ、誰もが自由に構築することを奨励する企業があります。それはしばらくの間はうまくいきます。人々は素早く動き、熱気に満ちています。しかし、瞬く間に、何千ものエージェントが存在し、実際のインベントリはなく、どれくらいのコストがかかっているかもわからず、本番運用で実際に何が実行されているのかも明確に把握できなくなります。

その一方で、すべてを事前に管理しようとする組織もあります。彼らは承認のために単一のボトルネックを設け、その結果、意味のあるものはほとんどデプロイされなくなります。そうしたチームは通常、自分たちが遅れをとっているという絶え間ないプレッシャーを感じています。

これをうまく実践している企業は、その中間に落ち着く傾向があります。各事業部門内で、AIに精通し、現場での実験を主導できる人材を特定しています。そうした担当者たちが組織全体で情報を交換し、うまくいっていることを共有し、推奨ツールのセットを絞り込んでいきます。数十種類あったツールを2つか3つに絞り込むだけでも、人々が予想するよりもはるかに大きな違いが生まれます。

エージェントは見た目ほど新しくはない

キャサリン: 先ほどのお話で、特に印象に残ったことがあります。エージェントは、多くの人が想定するほど根本的に異なっているわけではないと示唆しましたね。

デイビッド: その通りです。エージェントは新しいものに感じられますが、その特性の多くは、実は非常によく知られたものです。

継続的にコストがかかります。セキュリティの攻撃対象領域を拡大します。他のシステムに接続します。それらはすべて、私たちが以前に対処したことのあるものです。

私たちはすでにデータ資産やAPIsを管理する方法を知っており、同じ原則がここでも当てはまります。エージェントがどこに存在するのか分からなければ、それを停止させることはできません。エージェントが機密データにアクセスする場合、誰かがその責任を負う必要があります。多くの組織は、エージェントシステムには全く新しいルールブックが必要だと考えています。実際には、データマネジメントから実証済みのライフサイクルおよびガバナンスの実践方法を借りてくれば、ほとんどの課題は解決できます。

キャサリン: 経営幹部から手軽に始められる方法を尋ねられたら、何と答えますか？

デイビッド: まずは可観測性から始めます。

有意義なAIは、ほとんどの場合、独自のデータに依存します。どのデータが使用され、どのモデルが関与し、それらの要素がどのように組み合わさってエージェントを形成するのかを知る必要があります。

多くの企業が、さまざまなクラウドで複数のモデルプロバイダーを利用しています。それらのモデルが個別に管理されている場合、コスト、品質、パフォーマンスを把握することが非常に困難になります。データとモデルが一緒にガバナンスされることで、チームははるかに効果的にテスト、比較、改善を行うことができます。

エコシステムが非常に速く変化しているため、その可観測性はさらに重要になります。リーダーは、何かが変化するたびにスタック全体を再構築することなく、新しいモデルやアプローチを評価できる必要があります。

キャサリン: 組織はどこで急速に進歩し、どこで行き詰まる傾向がありますか？

デイビッド: 通常、ナレッジベースのエージェントが最も迅速に立ち上げられます。一連のドキュメントを指定するだけで、すぐにユーザーは質問をして回答を得られるようになります。これは強力です。問題は、こうしたシステムの多くが時間の経過とともに劣化することです。コンテンツは変化します。インデックスが古くなります。品質が低下します。ほとんどのチームは、そのことを想定していません。

価値を維持するとは、初期のデプロイメントの先を考えることを意味します。データを継続的に更新し、出力を評価し、時間とともに精度を向上させるシステムが必要です。それがなければ、多くの組織では最初の数か月は活発な活動が見られるものの、その後は利用率とインパクトが低下してしまいます。

エージェント型AIをエンジニアリングの一分野として扱う

キャサリン: 実際には、リーダーはスピードと、信頼性や統制とのバランスをどのように取っているのでしょうか？

デイビッド: これをうまく行っている組織は、エージェント型AIをエンジニアリングの問題として扱います。彼らはソフトウェアに使用するのと同じ規律、つまり継続的なテスト、モニタリング、デプロイを適用します。失敗は想定内です。目標はすべての問題を未然に防ぐことではなく、影響範囲を限定し、問題を迅速に修正することです。チームがそれができるようになれば、より速く、より自信を持って動けるようになります。何も問題が起こらないのであれば、それはおそらく保守的すぎます。

キャサリン: 信頼性と透明性をめぐる期待はどのように変化していますか？

デイビッド: 信頼は、システムが完璧であると想定することから生まれるものではありません。それは、何か問題が発生した後に何が起こったのかを把握することから生まれます。どのデータが使用され、どのモデルが関与し、誰がシステムとやり取りしたかといったトレーサビリティが必要です。そのレベルの監査可能性があれば、より多くのエクスペリメントを行う余裕が生まれます。

大規模な分散システムは、常にこのようにして運用されてきました。障害が発生しないことではなく、回復を最適化するのです。AI システムがより自律的になるにつれて、その考え方はさらに重要になります。

AIガバナンス戦略の構築

エージェント型AIを過去との完全な決別として扱うのではなく、企業がすでに実行方法を知っている規律の延長として捉えるべきです。次に本当に重要なことは何かを考えている経営幹部にとって、3つのテーマが浮かび上がります。

• スピードを制約するためではなく、実現するためにガバナンスを活用する。最も強力な組織は、チームが可視性や説明責任を失うことなく迅速に動けるように、基盤となる統制を導入しています。
• 使い慣れたエンジニアリングとデータのプラクティスをエージェントに適用する。インベントリ、ライフサイクル管理、トレーサビリティは、データやAPIにとってと同様に、エージェントにとっても重要です。
• AI を 1 回限りのローンチではなく、本番運用システムとして扱う。持続的な価値は、継続的な評価、最新のデータ、そして問題を迅速に検出して修正する能力にかかっています。

これらの考え方を総合すると、明確な結論が見えてきます。永続的なAIの価値は、最新のツールを追いかけたり、すべてをロックダウンしたりすることから生まれるのではなく、組織が自信を持って学習、適応、拡張できるような基盤を構築することから生まれるのです。

効果的な運用モデルの構築についてさらに詳しく知るには、Databricks AI成熟度モデルをダウンロードしてください。

(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事