Universal AI時代のガバナンス ――Dataiku：AI民主化と信頼性の両立を実現する鍵とは

対談者：
Dataiku Japan株式会社 シニアセールスエンジニア 庄子 楽 氏 × 有限責任監査法人トーマツ デジタルアシュアランス事業部 パートナー 長谷 友春
司会進行：デロイト トーマツ リスクアドバイザリー合同会社 パートナー Japan Trustworthy AI Lead 染谷 豊浩

企業のAI活用が急速に広がるなか、「誰でも使える利便性」と「統制されたガバナンス」の両立は容易ではありません。Dataikuが提唱する「Universal AI Platform™」は、データサイエンティストからビジネス部門まで幅広いユーザーが安全にAIを活用できる環境を提供します。

「AI活用を加速するガバナンスの構築」のために、業界を代表するソリューションプロバイダーとデロイト トーマツ グループの専門家の対談を通じた連載企画の第3回となる今回は、庄子 楽 氏（Dataiku Japan）と長谷 友春（有限責任監査法人トーマツ）が、AI民主化時代における信頼性担保の仕組みと、企業が直面するガバナンス課題の解決策を語ります。
（本文敬称略）

AI活用のために必要な4つの要素を統合するUniversal AI Platform™

染谷　AIのリスク対策やガバナンスソリューションへの関心が高まっているなかで、今回はDataiku Japanの庄子様をお招きして、AIの民主化とガバナンスの両立についてお話を伺います。

庄子　Dataiku Japanの庄子です。セールスエンジニアとして、業種やテーマを問わずガバナンスも含めた提案活動を推進しています。前職では約20年間データサイエンティストとして活動し、大規模チームのマネジメントを通じて多くのガバナンス課題に直面してきました。なお「Dataiku（データイク）」の社名の由来は、データと俳句を組み合わせた造語で、複雑になりがちな処理を俳句のようにシンプルに提供したいとの想いが込められています。

長谷　有限責任監査法人トーマツの長谷です。公認会計士としてIT監査を中心に行っており、企業がAIを会計処理などに使用する際、第三者としてどのように監査し信頼を付与するかを研究しています。現在はAIガバナンス構築支援や社内のAI監査手法の確立に取り組むほか、一般社団法人AIガバナンス協会の業務執行理事として新たな認証制度の創設にも関わっています。

Dataiku Japan株式会社 セールスエンジニアリング部 シニアセールスエンジニア 庄子 楽　氏
20年以上に渡って、データサイエンスのモデル構築、プロジェクトマネジメント、企画提案に従事。2024年よりDataiku Japan株式会社のシニアセールスエンジニアとして、業界や業種を問わず、製品の紹介や技術支援を行っている。前職の統計解析ベンダーにおいて、Advanced Analytics CoEのリーダーを務め、通信、運輸、金融、公共機関等へ、PoCにとどまらない実用化を数多く支援してきた経歴をもつ

染谷　早速ですが、Dataikuが提唱する「Universal AI Platform™」について背景や目指す世界などについて教えてください。

庄子　ユニバーサルという言葉は「一般的」「普遍的」と訳されますが、4つの要素に対して意味しています。1つ目は「人々やチーム」で、データサイエンティストだけでなくビジネス部門のノーコードユーザーも利用できます。2つ目は「データ」で、場所や種類を問わず、あらゆるデータに対応します。3つ目は「テクノロジー」で、各社のデータベースやAI機能に柔軟にアクセスできます。４つ目が「ガバナンス」で、データ準備からモデリング、運用までエンドツーエンドで一貫したガバナンスを適用できます。この4要素を統合することで、誰でも安全に使えるAI環境を提供しています。

画像：Dataiku Japan提供

染谷　Universal AI Platform™が提唱する「オーケストレーション」というコンセプトについても教えてください。

庄子　2つの意味があります。1つ目は、データ加工から機械学習、エージェントなど様々な機能をエンドツーエンドで提供できること。2つ目は、様々なテックベンダーの機能と連携できることです。例えば他社のクラウドサービスのデータを統合処理したり、複数のLLMを使い分けたりできます。技術進化が速い現代では、新しい技術にすぐ切り替えられるコンポーザブルなアーキテクチャーが重要です。

画像：Dataiku Japan提供

AI民主化によるリスクと求められるガバナンス

染谷　AI活用が加速するなかで、企業に与えるリスクや影響についてどうお考えですか。

長谷　いまや企業にとって「AIを使わない」という選択肢はありません。しかしその一方で、著作権侵害や個人情報漏洩、ハルシネーションといった新たなリスクが生まれています。対策が不十分だと、信頼の失墜や賠償金請求、事業継続への影響など深刻な結果を招きかねません。従来のサイバー攻撃への対策と同様に、AIシステムにもリスク対策が求められる時代です。まだ大きな事件は起きていませんが、遠くない将来に発生する可能性があり、早めの対策が重要です。

有限責任監査法人トーマツ デジタルアシュランス事業部 パートナー 長谷 友春
財務諸表監査、IT監査のほか、SOC1/2保証業務、政府情報システムのためのセキュリティ評価制度（ISMAP）における情報セキュリティ監査業務などに従事しており、トーマツにおけるIT関連の保証業務全般をリードしている。また、一般社団法人AIガバナンス協会の業務執行理事としてAIの認証制度の検討・提言を進めている。公認会計士、公認情報システム監査人（CISA）。
著書：『アシュアランス　ステークホルダーを信頼でつなぐ』（共著、日経BP）

染谷　そのようなリスクに対応していくためのAIガバナンスについて、日本企業の動向や取り組みを教えてください。

長谷　日本企業でもガバナンス体制の構築やルールを策定する取り組みが始まっていますが、具体的な実施方法やツール選定、実施範囲に悩む企業が多いのが現状です。AIガバナンス協会では自己診断ツールを提供し、会員企業の取組状況をベンチマークすることで自社の立ち位置を把握できるようにしています。またEU AI Actの勉強会なども開催し、日本全体でAIガバナンスを整備する取り組みを支援しています。

Dataikuが提供するAI活用を加速するためのガバナンス

染谷　AIガバナンスが重要な経営課題となるなかで、ガバナンスの観点でDataikuではどのようなソリューションを提供されていますか。

庄子　AI活用を推進する上で、3つのドライバーが鍵になります。1つ目は「民主化」で、異なるスキルを持つ人々がAIを共有し活用できること。2つ目は「加速」で、価値を生み出すまでの時間を劇的に短縮すること。3つ目は「信頼」で、多様な人々が構築したAIプロダクトの信頼性を維持できることです。 

画像：Dataiku Japan提供

具体的には、データマネジメント、MLOps、LLMマネジメント、エージェントマネジメントの機能をそれぞれ有し、「Dataiku Govern」により全処理にガバナンスを効かせます。誰が何を作っているか全て監査対象にでき、本番環境へのリリースには承認が必須。これによりシャドウAIの発生を防げます。

画像：Dataiku Japan提供

染谷　AIのリスク対策としては規制対応の側面も重要になりますが、EU AI Act等の規制対応事例についても教えてください。

庄子　EU AI Act対応ソリューションやNIST AIリスクマネジメントフレームワークに対応したソリューションをパッケージとして用意しています。Dataikuのテンプレートとして情報を登録していくワークフローを提供し、必要情報が埋まらないとプロジェクトを進められない仕組みで、主にヨーロッパのお客様が統制を取りながら進めています。
 

生成AI＆エージェント時代のガバナンス

染谷　今後、生成AIやAIエージェントを企業が活用していくうえで、Dataikuが提供するガードレール機能についても教えてください。

庄子　LLM メッシュ機能を利用することで、複数のLLMに接続できます。コネクション管理に加え、LLMごとにガードレールを設定でき、PIIの検出、禁止ワードの監視、プロンプトインジェクションの検出などを細かく管理できます。エージェントもノーコードで作成でき、処理するAIツールの切り替えや性能比較も容易です。 

画像：Dataiku Japan提供

染谷　最近、話題になる事が多い「野良AIエージェント」の問題にはどのように対応できるのでしょか。

庄子　ガバナンス機能である「Dataiku Govern」が全てを監査対象にできるため、Dataiku 上で作成されたエージェントはすべて管理下にあります。監査担当者は全エージェントを検索・確認でき、プラットフォーム内での作業は完全に可視化されます。利便性とガバナンスを両立できる設計です。 

AIシステムの相互信頼ネットワークと第三者認証の意義

染谷　デロイト トーマツとして、AIエージェントによる意思決定プロセスの信頼性や透明性をどのように担保すべきと考えますか。

長谷　AIエージェントの世界では、管理責任が分散し、一社だけで全体をコントロールするのは困難です。他社のAIエージェントから誤った情報が入力され、自社のAIエージェント機能が低下するケースも考えられます。だからこそ、相互に信頼できるネットワークが必要です。財務諸表監査の世界では、連結子会社について他の監査人の監査結果を利用することがありますが、それは監査人が異なっていても同じ監査基準で監査した結果であれば信頼できるという仕組みがすでに構築されているためです。それと同様にA社が監査したAIエージェントも、デロイト トーマツが監査したAIエージェントも同じ基準に基づいて監査しているのであればその結果を相互に信頼し合うことができる仕組みが必要です。AIガバナンス協会の認証制度も、相互信頼ネットワークの一翼を担えればと考えています。 

デロイト トーマツ リスクアドバイザリー合同会社 デロイトアナリティクス＆デジタルガバナンス パートナー Japan Trustworthy AI Lead 染谷 豊浩
30年以上に渡り、統計分析や機械学習、AI導入等の多数のデータ活用業務に従事。同時にディシジョンマネジメント領域でのソフトウエア開発、新規事業やAnalytics・DX組織の立上げなどの経験を通じて数多くの顧客企業のビジネスを改善。
幅広い分野のAI・Analyticsプロジェクトに従事し、デロイト トーマツ グループにおけるAIガバナンス領域をリードしている。

染谷　業界としての品質標準や認証の枠組みを作ることで、AIプロダクトやソリューションの信頼性向上にもつながるのでしょうか。

長谷　その通りです。「ガバナンス機能として標準的に備えるべき項目」に共通認識ができれば、各社の製品にも自然と実装が進むでしょう。AI活用を進めるには第三者による信頼付与が不可欠です。特にAI人材が限られる組織では、第三者が信頼を付与しているものを信じて使う仕組みが必要です。また経営層への説明でも、「認証を取得している」ことが有力な説明材料となります。 

将来展望：業務知識が鍵となる時代

染谷　今後のAI技術やガバナンスの進化を踏まえて、AI活用の将来像を教えてください。

庄子　AIエージェント機能が実用化されると、ほとんどのユーザーがエージェントを通じて業務を進めるようになります。GUIでのフロー設計もエージェントが自動で生成し、コード生成を含めたローコード開発も進むでしょう。多くの処理がエージェントによる自然言語の指示から組み上がる世界になると思います。

染谷　大きな変化だと思いますが、人間の役割はどうなっていくのでしょうか。

庄子　現役のデータサイエンティストと話すと、「業務を知らないデータサイエンティストはいらなくなる」という話がよく出ます。コード作成などの処理は自動化されていくため、今後は業務知識をしっかり身につけることと、できあがったものをきちんとレビューできる能力が重要になります。 

読者へのメッセージ

染谷 本日はお二人にAI民主化の時代に求められるガバナンスと最新のソリューション、今後、それを支えていく標準や認証の動向についてわかりやすく解説していただきました。最後に読者に向けたメッセージをお願いします。

庄子　Dataikuは、様々な方に使っていただけるプラットフォームです。失敗を恐れずに試行錯誤し、その中から成功を見つけてほしい。色々なことをしても問題ないようにガバナンス機能を提供しているので、安心してどんどん試していただけます。

長谷　AIでより良い世の中を築くには、信頼のネットワークが不可欠です。デロイト トーマツも、Dataikuのようにガバナンスを重視する企業も、共にAI活用の健全な基盤づくりを進めていきたいと思います。 

連載一覧

• 第1回 AIセキュリティの未来を語る――Cisco Systems: Security for AI と AI for Security の両面から
• 第2回 AI活用を成功に導く鍵 ――Citadel AI: BSI（英国規格協会）でも採用されるAIの品質管理の最前線
• 第3回 Universal AI時代のガバナンス――Dataiku：AI民主化と信頼性の両立を実現する鍵とは
• 第4回 次世代のAI運用を実現する――統合プラットフォーム「watsonx」が描くガバナンス戦略
• 第5回 リアルタイムモニタリングで進化するAI運用――ServiceNow AI Control Tower: AI、データ、ワークフローをend-to-endで統合的に管理