リアルタイムモニタリングで進化するAI運用――ServiceNow AI Control Tower: AI、データ、ワークフローをend-to-endで統合的に管理

対談者：
ServiceNow Japan合同会社 ソリューション営業統括本部 テクノロジーワークフロー営業本部 本部長　磯野 淳 氏 × デロイト トーマツ リスクアドバイザリー合同会社 デロイトアナリティクス＆デジタルガバナンス マネージングディレクター 山本 優樹
司会進行：デロイト トーマツ リスクアドバイザリー合同会社 パートナー Japan Trustworthy AI Lead 染谷 豊浩

生成AI技術の進化によって活用領域が急速に広がる一方で、企業はシャドーAIの問題やコストの増加、コンプライアンス対応といった新たな課題に直面しています。ServiceNowのAIガバナンスソリューションである「AI Control Tower」は、AI、データ、ワークフローを一元的に管理することで、インベントリ管理から投資判断、規制準拠までをend-to-endで提供します。

「AI活用を加速するガバナンスの構築」のために、業界を代表するソリューションプロバイダーとデロイト トーマツ グループの専門家の対談を通じた連載企画の最終回となる今回は、磯野 淳 氏（ServiceNow Japan合同会社）と山本 優樹（デロイトトーマツ リスクアドバイザリー合同会社）が、手作業によるAIの管理の限界やユーザーの急増がもたらすAIプロジェクトのリスク評価業務の逼迫、そしてAIがAIをガバナンスする未来像について語ります。（本文敬称略） 

AIガバナンスソリューションが求められる背景

染谷　今回はServiceNowの磯野様をお招きして、企業は今後、どのようにAIシステムを統合的に管理していくべきかお話して頂きます。

磯野　ServiceNow Japanの磯野です。現在は「テクノロジーワークフロー」ソリューションの営業リーダーとして、IT業務の高度化に向けた製品群を担当しています。昨今はリスク管理の観点から、IRM（統合リスク管理）やGRC（ガバナンス・リスク・コンプライアンス）の引き合いが増えており、デロイト トーマツとご一緒する機会も多くなっています。

山本　デロイト トーマツの山本です。以前はAI研究者としてテック・エンタテインメント企業のR&Dに従事していました。デロイト トーマツでは、AIの技術的専門性とリスク対策を組み合わせ、AIガバナンス、すなわちAI活用に伴うリスク対策のサービスを提供しています。入社から1年半後に生成AIブームが到来し、特化型AIから汎用AIへと世界が一変しました。

ServiceNow Japan合同会社 ソリューション営業統括本部 テクノロジーワークフロー営業本部 本部長　磯野 淳
ServiceNow Japanにて、AIガバナンス、セキュリティ運用、エンタープライズリスク管理、 IT資産管理、IT投資管理など、DX推進を支える「Technology Workflows」製品のソリューション営業部隊を統率。企業IT部門などに対し、DX推進に向けた提案・支援をリード。

染谷　AIツールやシステムの統合的な管理やガバナンスが重要視される背景をどのように捉えていますか。

磯野　生成AIやAIエージェントが、顧客サービス、財務、個人利用など、さまざまな業務で活用されるようになりました。AIを稼働させるには多様なデータソースやモデル、システムとの連携が必要になります。それに伴い、情報漏洩リスクやデータの信憑性の問題が生じます。どんなAIシステム、モデル、データを使っているかをきちんと把握・管理しなければ、AIの価値を最大化できません。加えて、EU AI Act（欧州AI規制法）など法規制への対応も求められています。

もう一点、コスト面も重要です。全社でAI活用を進めようとすると、各部門がバラバラにAIツールを導入してしまいコストが膨らむ等、ガバナンスが利かなくなります。IT部門やCIOが全社で何を使っているかを統制できる体制がコスト最適化の観点でも不可欠です。

山本　技術的な観点で申し上げると、私がAI研究者だった頃は、ユースケース特化型のAIを個別に作る時代でした。それが今は、一つの生成AIモデルでさまざまなことができるようになっています。特に大きいのは、言葉で操作でき、言葉で振る舞いを変えられるという点です。これまでAI研究者しかできなかった「学習」に相当することが、言葉を使って誰でもできるようになった。つまり、利用者に対する影響が質的にも量的にも非常に大きくなったのです。

従来のAIガバナンスは、モデルやデータなど、AI提供者や専門家といった一部の人々を統制対象にすればよかった。しかし今は、社員全体が統制対象になります。これが企業にとって最も大きな変化です。一方で、AIモデル、データ、そしてワークフローから統制をかけられるツールがあれば、利用者側のリスク対策にも対応できると考えています。

デロイト トーマツ リスクアドバイザリー合同会社 デロイトアナリティクス＆デジタルガバナンス マネージングディレクター 山本 優樹
テック・エンタテインメント企業の国内外の研究拠点にて、AIの研究開発および同成果の製品・サービス・国際標準への導入等を経て現職。企業のビッグデータ分析、AIのビジネス導入、AI活用に向けた組織構築・人材育成、AIの活用に伴う社会的なリスクの回避に向けたAIガバナンスの実践等、「活用」「リスク対策」両面で数多くのAIビジネス導入プロジェクトの経験を有する。

AI Control Tower：AIの統合管理とリアルタイムモニタリングを実現

染谷　それでは、ServiceNowのAIガバナンス機能である「AI Control Tower」について教えてください。

磯野　AI Control Towerは、今年5月にリリースした、AIを管理・統制するソリューションです。 

画像：ServiceNow Japan提供

第一の機能は、AIのインベントリ管理です。ServiceNowは元々CMDB（構成管理データベース）でITの構成情報を管理してきましたが、これを拡張し、AIのシステム自体をインベントリとして管理できるようにしました。どんなAIの仕組みが入っているのか、どんなシステムなのか、どんなモデルを使っているのかを把握することが、統制・ガバナンスの第一歩となります。

第二に、投資判断の機能です。AIを導入する際、なぜ投入するのか、どんな価値が出るのかを判断する基準を持たせています。導入後は、投資に見合った価値や利用者への提供ができたかを可視化し、継続するか廃止するかの判断材料を提供します。

第三に、規制準拠のフレームワークです。EU AI Actなどに準拠したレポーティングやワークフローでリスクを低減する機能を提供しています。

第四に、組織内のAIシステムの状況を一元管理・可視化する機能です。AIの成果・リスク・ガバナンスをモニタリングし、説明可能性とコンプライアンスを確保します。これにより、AI活用を安全かつ効果的に全社スケールで推進できます。

画像：ServiceNow Japan提供

これらをServiceNowのプラットフォーム上で一元管理し、データを統合して取得できる点が大きなメリットです。

染谷　AIの利用状況を経営層がリアルタイムに把握できるということですか。

磯野　インベントリ管理されたAIシステムに対し、利用状況をダッシュボードで可視化できます。加えて、コンプライアンス違反やリスクなく利用が進んでいるかもモニタリングします。ダッシュボードを見れば、企業の中でどんなAIがどれだけ使われ、リスクなく動いているかを一目で把握できます。 

画像：ServiceNow Japan提供

染谷　生成AIに関しても今後は投資対効果が焦点の１つになりますので、部門単位でバラバラに管理するのではなく、部門横断で一元的にしかもリアルタイムで状況が把握できるのは経営として重要ですね。

企業が直面するAIガバナンスの課題と解決策

染谷　すでにAI Control Towerが導入されている、あるいは検討されている企業の状況を教えてください。

磯野　現在導入を進めている企業様では、AIシステムを表計算ソフトで管理しているケースがほとんどです。それをまずインベントリとして、データベース上できちんと管理しようという動きが一番多いですね。AIをガバナンスし、統制管理していく上で、インベントリ管理は一丁目一番地ですから。

また、シャドーAI（無許可で利用されているAI）の問題もあります。ある企業様では、まずデータ化して可視化することで、「こんな部門でこんなAIが動いているのか」と把握でき、それに応じて統廃合の判断ができるようになりました。今後、コスト削減や利用の最適化といった具体的な効果が出てくるでしょう。

これからAIの仕組みを入れていこうとされている企業様では、AI Control Towerの機能を使って投資判断をするという取り組みも進められています。 

デロイト トーマツ リスクアドバイザリー合同会社 デロイトアナリティクス＆デジタルガバナンス パートナー Japan Trustworthy AI Lead 染谷 豊浩
30年以上に渡り、統計分析や機械学習、AI導入等の多数のデータ活用業務に従事。同時にディシジョンマネジメント領域でのソフトウエア開発、新規事業やAnalytics・DX組織の立上げなどの経験を通じて数多くの顧客企業のビジネスを改善。
幅広い分野のAI・Analyticsプロジェクトに従事し、デロイト トーマツ グループにおけるAIガバナンス領域のサービス責任者を務める。

染谷　まさに「シャドーAI」や「野良AI」が多くの企業で課題の１つになってきましたが、AI Control Towerで検知できるということですか。

磯野　リリース間もない機能ですが、今後AWSやMicrosoftのプラットフォームと連携しながら検知していく機能を順次提供していく予定です。OpenAI、Google、Microsoftなど、一般に提供されている商用AIに関しては、ServiceNowと連携して管理することが可能です。社内で自社開発したAIについても、AI Control Tower上に登録すれば管理できます。 

画像：ServiceNow Japan提供

山本　生成AIの登場で、シャドーAIや野良AIの問題が顕在化しました。各人が自分の使い方に沿った都合のいい使い方がこれまでよりも簡単にできてしまうのです。それをインベントリや網羅的なリスク対策ツールでカバーできるのは非常に有効だと思います。

また、投資効果を見る機能がすばらしいですね。これは経営の投資リスクに対する機能だと思います。中長期的に見ると、こうしたツールが全社に浸透し、全社員がAIを使うようになった時代には、会社の企業活動全体が見える機能になるのではないかと直感しました。

よく聞かれるのが、個人情報や秘密情報を社員が入れてしまうのが怖いから、あまり使わせないようにしている、という話です。そうした課題に対応する機能への期待は大きいです。

磯野　リアルタイムに利用者がAIをどう使っているかまでは、なかなか見切れない部分があるので、統制の仕方は工夫が必要です。 ServiceNowではAIエージェントの利用状況をモニタリングできる機能があるので、今後はこのようなツールを活用してモニタリングしていく方法があります。

山本　生成AIの使い方は日々生み出されており、企業にとって想定外のリスクも出てくるでしょう。これは経営リスクにもなりえます。世界中に導入されているサービスを起点として何かリスクが見つかり、それに対して新しい機能を追加する、といったサイクルが回せるツールは、これから出てくる新たなリスクへの対策として非常に有効だと期待しています。 

AI技術の発展で進化するAIガバナンスの世界観

染谷　AIの技術開発は今後も加速していくと思われますが、AIガバナンスはどう進化していくと思いますか。

磯野　これまで事前審査やチェックリストでリスクを評価していましたが、それだけでなく、動的に今のリスクをリアルタイムにモニタリングしていく世界が来ると思います。AIの仕組みを使いながら、リスクスコアやリスク判断をよりリアルタイムに行う。利用者がどういう使い方をしているかをリスクとして判断していく仕組みが必要です。

また、生成AIやAIエージェントの世界では、AIが自律的に動くようになります。それが正しく動いているか、正しい判断をしているかが見えにくくなるので、その「正しさ」を判断していく仕組みも必要になるでしょう。AIエージェントの動きをAIが監視する、というような世界です。 

染谷　AIがAIを監視する世界はSFみたいなお話ですが、ここにきて一気に現実味が帯びてきました。そうした時に人間の役割はどうなりますか。

磯野　AIエージェントだけで全ての判断をするのは難しいので、プロセスの中で人の判断を組み入れる必要があります。人が判断するためにも、AIエージェントがきちんと動いているか、判断に間違いがないかを確認し、ハンドリングすることが重要になってきます。

染谷　あまり想像したくないですが、一人で1000個、2000個のAIエージェントをフル活用してアウトプットの成果を出していく事が求められる世界になるかもしれませんね。

山本　私がこの仕事をしている理由は、まさにそこにあります。実際にそのようなAIエージェント開発や活用にも携わっていますが、効果が大きい技術ほどリスクも大きい。AIガバナンスは、今後も継続的に必要とされる領域だと考えています。

読者へのメッセージ

染谷　本日はお2人から経営視点でのAIガバナンスの重要性や将来像について示唆に富むお話を伺うことができました。最後に、これからAIの導入や活用を加速させようと考えている企業に向けてメッセージをお願いします。

磯野　AIの力を最大化するには、どういうユースケースで、どういう活用をし、どうガバナンスを引いていくかを考えることが重要です。ガバナンスを効かせすぎてリスクを避けすぎると、利用が進みません。この両輪をどうバランスさせてアクセルを踏んでいくかが鍵となります。AIを使うことで業務効果や生産性は確実に上がるので、その価値判断が各企業の管理部門での判断ポイントになります。私たちはソリューション面やテクノロジー面でご支援させていただきますが、AIをどう活用していくかの価値判断は、利用者の皆様、統制部門、経営者の皆様が一体で実行していくべきと考えています。

山本　取り組みを加速させるには、「誰でも使える」という点を理解していただくことが重要です。「どういう事例がありますか」「どういうリスク対策をすればいいですか」とよく聞かれますが、いつも思うのは、使ってみたらわかる、ということです。誰でも使える技術なので、使ってみればどういうリスクがありそうか、すぐわかります。

AIの社会やビジネスへの影響は不可逆な変化です。使ったもの勝ちだと思います。ぜひまずは使っていただく。その上で、PoCや効率化、リスク対策をスケールさせるには、私たちの知見も活用いただけますし、量的な対策にはツールが必要になります。これまでのシステムとは本質的に違うものだという思考の変化が重要です。

連載一覧

• 第1回 AIセキュリティの未来を語る――Cisco Systems: Security for AI と AI for Security の両面から
• 第2回 AI活用を成功に導く鍵 ――Citadel AI: BSI（英国規格協会）でも採用されるAIの品質管理の最前線
• 第3回 Universal AI時代のガバナンス――Dataiku：AI民主化と信頼性の両立を実現する鍵とは
• 第4回 次世代のAI運用を実現する――統合プラットフォーム「watsonx」が描くガバナンス戦略
• 第5回 リアルタイムモニタリングで進化するAI運用――ServiceNow AI Control Tower: AI、データ、ワークフローをend-to-endで統合的に管理