メインコンテンツに移動する
デロイトへようこそ

もし想定していない内容が表示されている場合は、上記で変更してください。

AIが加速する時代に、企業はどう備えるか

シリーズ:フロンティアAI時代のサイバー経営 第4回

企業がAIに仕事を任せる際、問われるのは、その能力だけではありません。資料作成の補助と支払処理の実行では、業務への影響も、必要な統制も異なります。フロンティアAIの活用が広がる中、企業には、業務ごとのリスクを捉え、その判断と実行の過程を後から確認・説明できる状態にしておくことが求められます。

第4回では、AIエージェントの統制を、アクセス管理と業務プロセスの両面から検討します。利用開始後も統制を保つための考え方から、既存の内部統制との共通点、現場での課題までを整理。自社の利用状況の把握を出発点に、優先度の高い対象から段階的に取り組むための具体的なアクションを探ります。

第4回:AIに、どこまで仕事を任せるか

―― 業務に入り込むAIエージェントを、誰が許可し、どう止めるか ――

AIエージェントは、定型タスクの自動化にとどまらず、社内システムや外部サービスと連携し、自律的に業務を遂行する存在になりつつあります。しかし、その自律性が高まるほど、「何を任せ、どこまで権限を与えるのか」「誰がその利用を許可し、問題が起きたときにどう止めるのか」を明確にする必要があります。連載第4回では、Okta Japanの三船亜由美氏を迎え、デロイト トーマツの大森潤とともに、AIエージェントを安全に業務へ組み込むために、企業が整えるべき仕組みと役割分担を考えます。(本文敬称略)

※ 本稿は2026年9月3日開催のWebinar「AIに、どこまで仕事を任せるか」の内容をもとに、再構成したものです。 

大森 潤と三船 亜由美氏

三船 亜由美/Ayumi Mifune(写真右)
Okta Japan株式会社
ソリューションエンジニアリング本部 本部長
外資系IT企業でシステム開発などに従事した後、統合セキュリティ&データ分析ベンダーでレジリエンスソリューションの日本市場開拓やセールスエンジニアリングを担当。2022年にOkta Japanに入社し、現在はアイデンティティセキュリティプラットフォームのプリセールスチームを統括。一貫して企業のビジネス信頼性を支えるソリューションの普及に携わっている。

大森 潤/Jun Omori(写真左)
デロイト トーマツ サイバー合同会社
パートナー

2005年からサイバーセキュリティおよびデジタルアイデンティティ分野に携わり、外資系IT企業を経てデロイト トーマツに入社。ゼロトラストセキュリティやID・アクセス管理を中心に、セキュリティ基盤の構想・戦略策定を支援する。クラウド認証基盤、アイデンティティガバナンス、特権アクセス管理、顧客ID管理基盤のほか、端末管理やSWG/CASBなどの施策推進、技術的な助言に従事している。

AIの普及スピードは、過去のテクノロジーと比べても際立っています。例えば、5,000万人のユーザーに到達するまでに、電話は50年、インターネットは7年を要したのに対し、大規模言語モデル(LLM)を活用した主要なアプリは、わずか2カ月でした。

企業のAI活用も、情報の生成や分析から、フィジカルAIや自律型AIエージェントへと拡大しています。さらに、AIエージェント同士が連携したり、新たなエージェントを作成して権限を委譲したりするなど、その自律性も高まりつつあります。

こうしたAIエージェントは、「知識が豊富で、さまざまな手段を使える新入社員」に例えられ、相応のガバナンスが必要です。ところがデロイトが2026年に実施した調査(※1)では、自律型AIエージェントに対するガバナンス体制が十分に整っていると回答した企業は、21%にとどまっています。つまり、多くの企業ではAIエージェントの活用が先行し、それを統制する仕組みが追いついていないのが現状です。

※1 The State of AI in the Enterprise - 2026 AI report | Deloitte US
https://www.deloitte.com/us/en/what-we-do/capabilities/applied-artificial-intelligence/content/state-of-ai-in-the-enterprise.html

ガバナンスが未整備のままAIエージェントの活用が広がれば、エージェントの数だけでなく、接続するシステムやデータ、外部サービスも増え、それぞれに対して「何にアクセスできるのか」「どこまで操作を許可するのか」を管理しなければなりません。その結果、企業が管理すべき対象とリスクは急速に拡大します。AIエージェントを安全に業務へ組み込むには、活用とガバナンスの間にあるギャップを埋める、具体的な統制の仕組みが欠かせません。

以降では、三つの観点から、AIエージェントを安全に業務へ組み込むための統制のポイントを整理します。

  • AI利用の統制をどう保つのか
  • 誰が統制を担うのか
  • どのような仕組みで統制するのか

第一章  自律するAIエージェントを、安全に業務へ組み込むには

AIエージェントは人間と扱いで管理する

AIエージェントが業務に入り込むことで、企業には新たなリスクが生じます。まず、Okta Japanの知見をもとに、経営の視点から押さえるべき「誰が許可し、どう止めるのか」という論点を整理します。

Oktaはこれまで、社員や契約社員、取引先など、「人」のアイデンティティとアクセスを管理する「Okta Platform」を提供してきました。現在はその管理対象を、サービスアカウントやマシンIDなどのNon-human Identity(人以外の主体が利用するアイデンティティ)、さらにAIエージェントへと広げています。

AIエージェントも一つのアイデンティティとして捉え、そのアクセスや権限を継続的に管理する必要があります。Oktaでは、こうしたAIエージェントの管理を既存のOkta Platformに組み込み、人と人以外のアイデンティティを一貫して管理する仕組みを提供しています。

この仕組みを支えるのが、アイデンティティ・アクセス管理を「認証前・認証時・認証後」の三つの段階で捉える考え方です。「認証時」にシングルサインオンや多要素認証を行うだけでは十分ではありません。「認証前」には適切なアクセスポリシーが設定されているかを可視化・管理し、「認証後」もアクセスの振る舞いを継続的に監視する。異常を検知した場合には、必要に応じてアクセスを停止します。

こうした一貫したアイデンティティ・アクセス管理を、AIエージェントにも適用する必要性が高まっています。その背景にあるのが、AIエージェントの利用拡大に統制が追いついていない現状です。OktaのAI at Work 2025: 職場におけるAI利用に関する年次調査では、91%の企業・組織が何らかのAIエージェントをすでに業務で利用している一方、「自信を持って統制できている」と回答した企業は約10%にとどまります。両者には81ポイントものギャップがあるのです。

このギャップを放置できないのは、AIエージェントや連携するアプリが増えるほど、攻撃対象領域が拡大し、管理すべきアクセスも急増するからです。例えば、1万人のユーザーが1日10件のタスクを実行し、1,000個のAIエージェントが介在し、それぞれのタスクで58個のツールを利用すると仮定すると、1日当たりのアクセス判定は58億回に上ります。

AIエージェントやアプリの増加で攻撃対象領域が拡大し、それぞれのタスクで58個のツールを利用すると仮定すると、1日58億回のアクセス判定が発生することになる。

AIエージェントは、人から逐一指示を受けなくても自律的に動き、さまざまなシステムやツールにアクセスします。生産性の向上やイノベーションをもたらす一方、人が一つひとつ確認しないまま行われる判断や操作も増えていきます。膨大なアクセス判定を人手ですべて確認することは現実的ではありません。だからこそ、あらかじめ適切な権限やルールを設定し、その後の動きも継続的に監視・制御する仕組みが必要になります。

実際、AIエージェントに関連するセキュリティインシデントを経験した、またはその疑いがあると回答した組織は88%に上ります(※2)。また、AI全般に目を向けても、AI関連のセキュリティインシデントを経験した組織の97%が、適切なAIアクセス制御を欠いていました(※3)。これまでゼロトラストアーキテクチャを中心に築いてきたセキュリティ対策も、AIエージェントを含むAI利用を前提としたアクセス管理がなければ、その効果は一瞬で無力化します。

※2 The State of AI Agent Security 2026:
https://www.gravitee.io/hubfs/Downloadable%20Resource/state_of_ai_agent_security_report_pdf_2026.pdf
※3 IBM Cost of a Data Breach 2025:https://www.ibm.com/reports/data-breach

こうしたリスクは、すでに現実のインシデントとして表れています。AIエージェントと外部サービスの連携に使われていたOAuthトークンが失効されないまま残り、窃取・悪用されて700を超える組織に影響が及んだ事例もあります。また、OWASP GenAI Security Project(※4)が整理した生成AIやLLMアプリケーションの主要なリスクにも、プロンプトインジェクションだけでなく、機密情報の漏洩や過剰な代理権限など、アイデンティティやアクセス管理と関わりの深い項目が複数含まれています。

※4 OWASP(Open Worldwide Application Security Project):Webアプリケーションをはじめとするソフトウェアのセキュリティ向上に取り組む国際的な非営利コミュニティ。生成AIやLLMに関するセキュリティリスクの整理・公開も行っている。

これらの事例やリスクを踏まえると、AIエージェントも認証した時点で管理を終えるのではなく、付与した権限や認証情報を継続的に管理することが重要です。

「三つの問い」から始めるAIエージェント統制

ここからは、こうしたリスクに対して企業が押さえるべき統制の基本を整理します。

AIエージェントは、「知識が豊富で、さまざまな手段を使える新入社員」に例えられます。その新入社員が、経理や人事、開発サーバのすべてにアクセスできる権限を持ち、24時間365日動き続けるとすれば、そのリスクは容易に想像できるでしょう。だからこそ、AIエージェントを一つのアイデンティティとして扱い、次の三つの問いに答えられる状態にしておくことが、統制の出発点になります。

  1. そのAIエージェントはどこにいるのか
  2. AIエージェントは何に接続ができるのか
  3. AIエージェントは何ができるのか

現時点で、この三つの問いに即座に答えられる企業はまだ多くありません。しかし、役員会から「AIエージェントの状況はどうなっているのか」と問われたときに、「分かりません」では済まされません。企業には、AIエージェントの存在や権限、利用状況を継続的に把握し、管理できる仕組みが必要です。そのためには、AIエージェントの発見・登録から、アクセスの制御、利用中の監視、問題発生時の停止まで、一連のライフサイクルとして管理する必要があります。

Oktaでは、こうした統制に必要な要件や機能を「ブループリント(※1)」として整理しています。

このブループリントには、アクセスポリシーの設定に加え、リスクの継続的なモニタリングや、必要に応じてエージェントを停止する「キルスイッチ」などが含まれています。ポイントは、AIエージェントを登録した時点で管理を終えるのではなく、利用開始後もアクセスや振る舞いを継続的に把握し、必要に応じて制御できる状態を維持することです。

(※1)ブループリントの最新アップデートについて
本記事および動画の内容はウェビナー開催時点の情報に基づいています。現在、Oktaが提唱するブループリントは9月22日に発表された「Blueprint Alliance」を通じて最新化され、以下の「4つの問い」へと更新されています。

1.AIエージェントはどこにいるのか
2.AIエージェントは何ができるのか
3.AIエージェントは何をしているのか
4.どのように対応するべきか

最新のブループリントおよび「Blueprint Alliance」の詳細については、下記をご参照ください。
AIエージェント保護のための共通アーキテクチャを推進するため、業界リーダーが「Blueprint Alliance」を結成

この考え方を具体化したソリューションが「Okta for AI Agents」です。AIエージェントの検出・登録から制御・ガバナンスまでを一元的に管理するもので、独立した新製品ではなく、既存のOkta PlatformにAIエージェントを管理する機能を組み込んだものです。実績のあるアイデンティティ管理基盤の中で、人とAIエージェントを一貫して統制することを目指しています。

Oktaが顧客との対話を通じて把握した、AIエージェントの管理基盤を選定する際に重視されるポイントは、次の三つです。

  1. 将来の規模拡大に対応できる
    AIエージェントが数万規模に増えたり、サブエージェントが生成されたりしても、統制を維持できること。
  2. 特定のベンダーやAIモデルに依存しない
    複数のAIプラットフォームやモデルが併存する環境でも、一貫したポリシーを適用できること。
  3. ライフサイクル全体を管理できる
    AIエージェントの検出・登録から権限付与、監視、利用終了時の権限剥奪まで、一連の流れを管理できること。

こうした三つのポイントを踏まえ、まず自社のAIエージェントの「現在地」を把握することが出発点になります。

第二章 AIエージェントに何を任せるか、誰が判断するのか

AIエージェントの統制は、内部統制と共通する問いから始まる

ここからは、「AIエージェントを、誰が許可し、どう止めるか」という観点から、AIエージェントの統制のポイントを整理します。

AIエージェントの統制には、従来の内部統制と共通する考え方があります。重要なのは、「誰が、何の目的で、何をしたのか」を把握し、その行為が適切だったことを後から監査・説明できる状態にしておくことです。AIエージェントが自律的に業務を遂行するようになっても、この原則は変わりません。

AIエージェントの統制は、大きく以下の六つの項目に整理できます。

  1. ガバナンス・責任体制
  2. リスク分類・業務適用範囲
  3. データ管理、権限・認証
  4. 人による監督・フェールセーフ
  5. ログ・監査証跡・説明責任
  6. 継続監視・改善

この六つを貫くのは、AIエージェントの利用について誰が責任を持ち、どの業務をどこまで任せるのかを明確にしたうえで、その判断と実行の過程を後から説明できる状態にしておくことです。特に、AIエージェントがどの権限で、どのデータやシステムを利用し、誰の指示・監督の下で業務を実行したのかを記録・追跡できることが重要です。

このうち、AIエージェントをどの業務で、どこまで利用することを認めるのか。その判断を誰が担うのかを考えるうえで、特に重要になるのが「リスク分類・業務適用範囲」です。判断の起点とすべきなのは、AIそのものではなく、それを適用する業務プロセスです。

同じAIでも、資料作成を補助する場合と、経理の支払処理を実行する場合とでは、業務への影響やリスクは大きく異なります。そのため、対象となる業務を定め、AIや業務の特性を踏まえて、どのようなリスクがあり、業務にどのような影響を及ぼすのかを分析します。

そのうえで、リスクへの対応方針を決め、権限の制限や人による確認など、必要な統制を組み込みます。つまり、「AIを使ってよいか」を一律に決めるのではなく、業務が経営や事業に与える影響に応じて、AIエージェントに認める操作や権限の範囲、統制の強度を変えることが重要です。その際には、AI特有のリスクに応じた対策も必要です(下図参照)。

AIリスクは、適用業務の特性と経営影響に応じて分析・対策することが重要。

例えば、エージェントが別のエージェントを利用する場合には、依頼元の利用者に認められた権限を超えてデータへアクセスしないよう、エージェント間で引き継ぐ権限を制限します。また、AIの出力や判断には不確実性があるため、経理の支払業務のように影響の大きいプロセスでは、AIだけで処理を完結させず、人の確認や同意を組み込む「Human-in-the-loop」が必要です。

こうした業務上のリスクを最も適切に判断できるのは、その業務を管轄する部門です。その業務にAIを使ってよいのか、どこまで任せるのか、どの段階で人の判断を入れるのかは、業務を理解している部門でなければ決められません。ただし、すべての業務部門がAIに詳しいわけではないため、IT部門やAIに特化したCoE(センター・オブ・エクセレンス)などと連携しながら適用範囲を検討する必要があります。

判断・ガバナンス・技術基盤を一体で整える

こうした連携を機能させるには、関係する各部門の役割を明確にする必要があります。

業務を管轄する部門は、どの業務にAIを適用し、何をどこまで許可するかを判断します。リスク管理部門やセキュリティ部門は、AI全体にガバナンスが効いているかを確認します。そしてIT部門は、権限制御や緊急停止など、統制を実行するための仕組みを提供します。AIエージェントの統制を実効性のあるものにするには、この三者の連携が不可欠です。

重要なのは、全社的なガバナンス方針、業務プロセスに応じた統制、それを支える技術基盤を一体として整えることです。実際、ある企業では、全社AIガバナンス要綱を策定したうえで、その方針に基づいて業務プロセスに統制を組み込み、セキュリティインフラによるAIエージェントの見える化・制御を進めています。

業務プロセスの層では、どの業務にAIを適用するのか、どこにリスクがあり、どの段階で人が介在すべきかを定めます。技術基盤の層では、AIエージェントやワークフロー、AIモデル、データ基盤などを、資産管理、ライフサイクル管理、外部接続管理、アクセス制御、ランタイム保護、監視といった技術的な仕組みで管理します(下図参照)。

AIエージェント活用には、統制・監視・アクセス制御・資産管理を含む基盤整備が必要。

つまり、「誰が許可し、どう止めるのか」という問いに答えるには、ルールを定めるだけでは足りません。全社方針を定め、業務ごとにリスクに応じた統制を組み込み、それを実行・監視できる技術基盤で支える。この三つを一体として整えることが、AIエージェントを安全に業務へ組み込むための基本です。

第三章 現場の課題に、企業はどう向き合うか

「最初の30日」から始めるAIエージェント統制

大森:ここからは、企業の現場で実際に生じている課題とその解決アプローチについてお話を伺います。まず、三船さんがお客様と接する中で、最近よく寄せられる課題には、どのようなものがありますか。

三船:お客様の状況は、大きく二つに分かれます。

一つは、AIやAIエージェントの活用がこれからという企業です。こうした企業ではAIのリスクを説明しても、自社の業務に置き換えて具体的にイメージすることが難しいのが実情です。

もう一つは、すでにAI活用やAIエージェントの開発が進んでいる企業です。こちらでは、「シャドーAI」「野良AI」と呼ばれる、IT部門やセキュリティ部門が把握・管理できていないAIへの懸念が広がっています。

特によく伺うのが、権限設定の問題です。AI活用はビジネス部門主導で進むことが多く、導入スピードが優先される結果、権限設計が後追いになりがちです。そのため、初期設定のまま必要以上に広い権限を付与し、運用開始後になって「本当にここまでの権限が必要なのか」と見直しを迫られるケースがあります。

大森:AIエージェントの活用がこれからの企業ではリスクを具体化できない一方、活用が進んだ企業では、把握できていないAIや過剰な権限が課題になる。導入を優先した結果、後から権限や管理の問題が表面化するというのは、現在のAI活用を象徴する課題ですね。

では、統制を考える際には、導入前にリスクを抑える「予防的統制」と、実際に利用されているAIを発見・監視する「発見的統制」のどちらを重視すべきでしょうか。

三船:どちらか一方ではなく、両方が必要です。

まず土台となるのが予防的統制です。導入前に権限を最小化し、必要最低限の承認フローを整えておくことが基本です。こうしたルールがなければ、何を基準に監視・制御するのかも定まりません。

ただし、予防的統制だけでは十分ではありません。AIエージェントは自律的に動き、さまざまなシステムや他のエージェントと連携するため、事前には想定できなかった動きが生じる可能性があります。そのため、運用開始後も継続的に動きを監視し、異常を検知した場合には停止できる仕組みが必要です。

クレジットカードに例えると分かりやすいでしょう。利用限度額を設定するのが予防的統制で、不正利用を検知してカード会社が利用を停止するのが発見的統制です。限度額を設定するだけでも、不正利用を監視するだけでも十分ではありません。両方があることで、安全に利用できます。

AIエージェントも同じです。事前に「何をどこまで許可するか」を定めると同時に、利用中の動きを継続的に監視し、必要に応じて停止できる状態にしておくことが重要です。

大森:予防と発見の両面で統制を整えるとなると、すでにAIエージェントの利用が始まっている企業では、何から着手すべきか迷うことも多いと思います。そうした企業は、最初の30日で何をすべきでしょうか。

三船:企業の状況によって異なりますが、最初に取り組むべきは、AIエージェントの利用状況を可視化することです。

先ほどお話しした「どこにいるのか」「何に接続できるのか」「何ができるのか」という観点から、自社のAIエージェントを棚卸しします。同時に、それぞれの責任者を明確にすることも重要です。責任者が曖昧なままでは、権限の見直しや、問題が起きた際の停止を誰が判断するのかも明確になりません。

そのうえで、リスクや重要度を踏まえて優先順位を付け、優先度の高いAIエージェントに絞って統制の仕組みを導入します。最初からすべてを対象にするのではなく、小さく始め、そこで得た知見を生かしながら段階的に対象を広げていくのが現実的です。

大森:まず現状を可視化して責任者を明確にし、優先度の高いAIエージェントから段階的に統制を始める。AIエージェントを「特別なもの」として別枠で扱うのではなく、既存の管理・統制の枠組みに組み込んでいくことが出発点ですね。本日はありがとうございました。