次世代のAI運用を実現する――IBM: 統合プラットフォーム「watsonx」が描くガバナンス戦略
AIガバナンス ソリューションプロバイダー連載企画 第4回
対談者：
日本アイ・ビー・エム株式会社 テクノロジー事業本部 データ・プラットフォーム事業部 製品統括営業部長 小山 政宣 氏 × デロイト トーマツ リスクアドバイザリー合同会社 デロイトアナリティクス＆デジタルガバナンス シニアマネジャー 巻口 歩翔
司会進行：デロイト トーマツ リスクアドバイザリー合同会社 パートナー Japan Trustworthy AI Lead 染谷 豊浩
AIの実用化が加速する中、企業は「ガバナンスなきAI活用」の限界に直面しています。生成AI技術の進展に伴い、PoC段階から実運用へと舵を切る企業が増える一方で、AIリスクの定量評価や規制対応は複雑さを増しています。IBM「watsonx（ワトソンエックス）」シリーズは、AI開発（.ai）・データ管理（.data）・ガバナンス（.governance）を統合したプラットフォームとして企業のAI開発と運用を支援します。
「AI活用を加速するガバナンスの構築」のために、業界を代表するソリューションプロバイダーとデロイト トーマツ グループの専門家の対談を通じた連載企画の第4回となる今回は、小山 政宣 氏（日本アイ・ビー・エム株式会社（以下IBM）製品統括営業部長）と巻口 歩翔（デロイトトーマツ リスクアドバイザリー合同会社シニアマネジャー）が、統合プラットフォームによる次世代のAI運用について語ります。（本文敬称略）
注目が集まるAIガバナンス領域への関わり
染谷 今回はIBMの小山様をお招きして、企業がどのようにAIを安全かつ効率的に運用していくかについて、AIガバナンスソリューションのご紹介と合わせてお話していただきます。
小山 私は外資系コンサルティング会社を経てIBMに入社し、長年IBMコンサルティングに従事した後、2020年からソフトウェア部門のデータ&AI製品ブランドでリスク領域を担当してきました。AIガバナンスが注目されるようになったのは、この1〜2年の出来事です。現在はwatsonx全体の製品統括として、データ利活用からAI活用・保護まで、トータルで担当しています。
巻口 私は2019年にデロイト トーマツに入社し、AI関連領域で活動していましたが、ガバナンス経験はほとんどありませんでした。データ分析組織のプロセス管理業務から、省庁のAIガバナンス調査を経て本格的にこの分野に参画しました。生成AIサービス登場以降は、ガバナンスポリシー策定からプロセス化まで幅広く支援しており、現在はほぼ100%でAIガバナンス領域の活動をしています。
日本アイ・ビー・エム株式会社 テクノロジー事業本部データ・プラットフォーム事業部 製品統括営業部長 小山 政宣 氏
国内SIerでSEとしてキャリアをスタート。その後、外資系コンサルファームで数年業務コンサルタントとして従事。IBM入社後も長く業務コンサルタントを経験し、2020年から現在のソフトウェア営業部門に異動。2021年からはAI製品に関する製品統括という立場で営業活動を推進、長年に渡りリスク・コンプライアンス領域のソリューションに携わっております。
実用化への転換点が生んだAIガバナンスの取組み
染谷 ここ数年で急速にAIガバナンスが重要な経営課題の１つになってきましたが、どのような背景や理由があるのでしょうか。
小山 最大の要因は技術の進化ではないでしょうか。生成AIサービスの進化によって、AIへの期待値は下がることなく上がり続けています。生成AIは従来の機械学習と比べてリスクの度合いが格段に違っており、この高度で便利な技術を実際に活用するには、リスクへの対処が必ずセットで必要になってくるだろうと考えています。
今年になってガバナンスやAIリスクへの認識度が急激に高まっている背景は、お客様がこの1、2年でのPoC（概念実証）を経て、ようやく実用化段階に入られてきていることが考えられます。実用化を検討し始めたタイミングで、これまで見えなかった課題が一気に顕在化しているものと考えています。
多くのお客様からは、既存のセキュリティチェックフローにAI項目を追加してAIガバナンスへの対応を開始されている話をよく耳にします。しかし、これらの対応にもやがて限界が見えてくるのではないかと思っています。AIリスクは定性的な評価だけでは不十分で、リスクの数値化によって客観的な根拠に基づく判断が求められるからです。
デロイト トーマツ リスクアドバイザリー合同会社 デロイトアナリティクス＆デジタルガバナンス シニアマネジャー 巻口歩翔
大手ITコンサルティングファームにて、スポーツチーム向けのITコンサルティングやデジタル化・データ分析支援に従事した後、現職へ。デロイト トーマツでは、企業のデータ利活用高度化に関するアドバイザリー業務を担うとともに、AIガバナンス領域にも業界内でもいち早く取り組み、豊富な経験と知見を蓄積。AIの健全な活用やリスク管理の枠組み構築において、先進的かつ実践的な支援を多数行ってきた。
染谷 企業がAIガバナンスに取組むにあたっての課題はどんなところでしょうか。
巻口 最大の課題は専門人材の不足です。AIに関わる法規制やガイドラインなどによってガバナンスの実践が求められる中、自社に適用するには専門性を持った人材が不可欠です。多くの企業は自力で体制構築せざるを得ず、ただでさえ不足しているAI人材を事業側である一線からリスク管理の二線に配置転換する必要があります。しかし一線で活躍していた方々は、ガバナンスの知見を十分に持っていないケースが多いのが実情です。
watsonx：AIの実用化を支える統合プラットフォーム
染谷 そうした環境を踏まえて、watsonxシリーズが提供する機能や価値について教えてください。
小山 従来のWatsonを「watsonx」としてリブランドしました。このプラットフォームの特徴は、生成AIブームをキャッチアップしつつ、従来からの機械学習も統合している点です。最終的には両者をミックスしてトータルのAI活用を実現していくことが必要になると考えています。
他社製品との差別化ポイントは、AIを安全かつ持続的に運用できる「実用段階」への支援に特化している点です。データガバナンスやセキュリティを含めた包括的な仕組みを備え、安心できる材料が揃わなければAI の本格活用は実現しないと考えています。
画像：IBM提供
watsonx.governanceの最大の特徴は、ガバナンスの設計から運用、監査までを一貫して支援できる点にあります。従来のAIガバナンスツールはドリフトやバイアスといったリスク項目を可視化する計算ツール的な位置づけが多く見られましたが、我々はそれらの機能も具備しつつ、企業内でAIリスクに関わる役割や体制を踏まえた実際に運用できる枠組みも提供しています。
画像：IBM提供
また、直近ではAIセキュリティ機能の拡張も行っております。こちらもAI実用化の検討が進む中で非常にニーズが高まってきていると感じております。AIリソースを自動で収集し野良AIを監視、AIセキュリティ観点での脆弱性検知や、レッドチーミングテストの機能などを盛り込んでおり、全社のAIリソースに対するセキュリティ監視の役割を担ってくれます。
また、ガバナンスだけでなくAIの統合プラットフォームという観点でみると、watsonxは.ai、.data、.governanceという3つのコンポーネントで企業のAI基盤を構成します。
.aiはオープンソースのHugging Face連携、Meta社のLlamaやMistralといった主要モデル、独自のGranite基盤モデルまで豊富な選択肢を提供しておりますし、今年追加したモデルゲートウェイ機能により、GPTやAnthropicも仮想的に同じプラットフォーム上で扱えるようになりました。
.dataはAI構築に必要なデータの前処理が主軸で、特に非構造化データの取り扱いを大幅に強化しています。RAG（Retrieval-Augmented Generation）の限界を打ち破るために開発された非構造化データの取り込み機能は非構造データにおけるETL（Extract、Transform、Load）ツールのようなイメージになります。
共通言語として機能するソリューションの価値
巻口 AIガバナンス領域は2〜3年前と比較して、より具体化・細分化されています。AIセキュリティやAIテスティングといった新概念も登場し、より多くの部門を巻き込む必要性が高まっています。
その際に重要なのが「共通言語」の存在です。共通基盤となるツールがあることで、それを共通言語として多部門間の連携が図れます。watsonxシリーズは包括的にガバナンスに対応しており、なかでもwatsonx.governanceは組織内の共通基盤として機能することが期待されます。
デロイト トーマツ リスクアドバイザリー合同会社 デロイトアナリティクス＆デジタルガバナンス パートナー Japan Trustworthy AI Lead 染谷 豊浩
30年以上に渡り、統計分析や機械学習、AI導入等の多数のデータ活用業務に従事。同時にディシジョンマネジメント領域でのソフトウェア開発、新規事業やAnalytics・DX組織の立上げなどの経験を通じて数多くの顧客企業のビジネスを改善。
幅広い分野のAI・Analyticsプロジェクトに従事し、デロイト トーマツ グループにおけるAIガバナンス領域のサービス責任者を務める。
AIエージェント時代の実践的なガバナンスアプローチとは
染谷 今後、実用化が進んでいくAIエージェントについてもIBM製品の特長を教えてください。
小山 AIエージェントの機能評価については、まだ黎明期で業界全体でも評価の「正解」は固まっていない状況だと認識していますが、IBMでは既存のAIリスク可視化機能にアドオンする形でいち早くエージェント専用の評価機能を追加開発しました。年末にもさらなるアップデートを予定しています。
画像：IBM提供
巻口 AIエージェントは既存の生成AIと比較して、セキュリティ議論がより活発になると予想されます。エージェントが動作する環境の構築、環境内での権限設定、配置するデータの選定など、重要な課題が数多くあります。
染谷 人材不足の中でツールの重要性が高まっていますが、既存システムとの関係はいかがですか。
小山 AIガバナンスでは、現場とリスク管理の間で役割の分担や意思疎通が難しいケースが多く見られます。AIリスクは企業全体のリスクの一部であり、最終的には企業ガバナンス全体に組み込む必要が出てくるだろうと考えています。こうした認識のギャップを整理する上でも、デロイト トーマツのようなコンサルティングが入ることで、議論がスムーズに進むケースが多くなってくるのではないでしょうか。
製品展開については既存ツールとの併用も前提としています。足りない部分だけを切り取って使用いただく販売方針で、小さく始めて段階的に拡張していく形を提供できます。
画像：IBM提供
AIエージェントが業務を担う世界を見据えたコラボレーション
染谷 5年後、10年後のAIガバナンス分野はどのような姿になるとお考えですか。
小山 現在のエージェントブームが真のマルチエージェント化に移行し、5年後には業務プロセスの約半分をAIが担う世界になってくるのではないかと考えています。理想論では7～8割をAIが処理するという話もありますが、それでは従来の企業コンプライアンスや内部監査・内部統制といったコーポレートガバナンスの観点で色々問題が出てきてしまうのではないかと危惧しています。Human in the loop、業務プロセスのリデザインなどが最近キーワードとしてよく出てくるようになっていると思いますが、今後数年かけてバランスが取れた最適な着地点を探っていく流れになってくるのではないでしょうか。
染谷 両社のコラボレーションの可能性についてもお聞かせください。
小山 ツールはあくまでもツールであり、特にガバナンス領域では、コンサルティングとの連携なしに真の実装は不可能です。我々の技術的知見とデロイト トーマツの現場経験や組織変革のノウハウを組み合わせることで、より実践的なソリューションを提供できるものと考えています。
我々が技術の側面に重点を置きすぎる傾向があることも自覚しており、デロイト トーマツには、お客様の全体的なニーズを汲み取りながら、我々の技術を適切にビジネス課題解決に繋げていく役割を期待しています。
巻口 IBMの技術的なアドバンテージと我々の業務知見を組み合わせることで、真に実用的なAIガバナンス体制の構築が可能になると期待しています。製品単体ではガバナンス領域を完結できないため、組織の役割整備や業務プロセス構築といったコンサルティング支援が重要になります。
読者へのメッセージ
染谷 本日はAIエージェント時代の実践的なガバナンスアプローチについて貴重なお話を伺うことができました。最後に読者に向けたメッセージをお願いします。
小山 今年はAI実用化の観点で潮目が変わった年だったと感じています。実用化においてガバナンスは無視できない要素であり、AIリスクを定量的に表現する必要も増えています。デロイト トーマツのような信頼できるパートナーと組むことで、技術導入から組織定着まで一貫したサポートが実現できると確信しています。
巻口 AI活用が今年末から来年半ばにかけてサービスとして本格展開される見込みです。ガバナンスは不可欠ですが、バランスも重要です。適切かつ効果的で効率的な実施が求められます。IBMのような優れた技術パートナーとの連携により、より実践的で持続可能なソリューションを提供していきます。
連載一覧
- 第1回 AIセキュリティの未来を語る――Cisco Systems: Security for AI と AI for Security の両面から
- 第2回 AI活用を成功に導く鍵 ――Citadel AI: BSI（英国規格協会）でも採用されるAIの品質管理の最前線
- 第3回 Universal AI時代のガバナンス――Dataiku：AI民主化と信頼性の両立を実現する鍵とは
- 第4回 次世代のAI運用を実現する――統合プラットフォーム「watsonx」が描くガバナンス戦略
- 第5回 リアルタイムモニタリングで進化するAI運用――ServiceNow AI Control Tower: AI、データ、ワークフローをend-to-endで統合的に管理
