AIセキュリティの未来を語る――Cisco Systems: Security for AI と AI for Security の両面から

対談者：
シスコシステムズ合同会社 Foundation AI Regional Lead（元 Robust Intelligence Japan Country Manager）平田 泰一 氏 × デロイト トーマツ サイバー合同会社 パートナー 佐藤 功陛

司会進行：デロイト トーマツ リスクアドバイザリー合同会社 パートナー Japan Trustworthy AI Lead 染谷 豊浩

生成AIの浸透により、企業は「AIを守る（Security for AI）」と「AIを活用する（AI for Security）」の二正面対応を迫られています。シスコシステムズ合同会社（以下、シスコ）のAI Defenseと、デロイト トーマツの運用・ガバナンス支援という両輪は、発見→検出→保護という基本線を押さえつつ、セキュリティオペレーションセンター（SOC: Security Operation Center）の自動化と可視化を段階的に進める道筋を提示します。平田 泰一 氏（シスコ Foundation AI APJCリード）と佐藤 功陛（デロイト トーマツ サイバー パートナー）が、AIエージェントやFoundation AI（約80億パラメータの軽量LLM）を軸に、導入・運用の壁と経営層への説明責任をどう乗り越えるかを語ります。（本文敬称略）

二つの視点：Security for AI と AI for Security

染谷　本日はシスコシステムズの平田様をお招きして、AIの進化に伴い高まるリスクと対策について、「AIを守る」視点と「AIを活用する」視点の双方から伺います。

平田　シスコの平田です。2022年にRobust Intelligenceで日本の事業責任者を務め、昨年9月の買収を機にシスコへ参画しました。現在は本社R&Dの「Foundation AI」に所属し、アジアパシフィック・ジャパンの統括リード（APJC）として、AIによる企業のサイバーセキュリティの課題解決に取り組んでいます。

佐藤　デロイト トーマツ サイバーの佐藤です。2015年にデロイト トーマツに参画し、デロイトがグローバルで提供しているサイバーインテリジェンスセンター（CIC: Cyber Intelligence Center）の立ち上げに携わりました。2002年からSOC事業に従事し、現在は「サイバーオペレート」というユニットの責任者を務めています。
 

シスコシステムズ合同会社 Foundation AI Regional Lead(アジア太平洋・日本担当) 平田 泰一 氏
デロイト トーマツ, Akamai, DataRobotなどを経て、デジタル戦略・組織構築・ガバナンス策定・セキュリティ対策など多岐にわたるテーマを通じて、企業の成長と変革を20年以上に渡り支援。22年にRobust Intelligence Japanを立ち上げ、日本市場の責任者に就任。日本事業を2年連続で数倍の規模へ成長させ、Ciscoの買収に貢献。現在はCiscoが研究・開発するセキュリティ特化LLM “Foundation AI”の推進をリードする。

染谷　最近になってAIガバナンスのなかでも特にAIセキュリティについて関心が高まっていますが、どのようなところが論点になるのでしょうか。

平田　AIやモデル自体を安全に運用するための管理・防御をする「Security for AI」とAIでセキュリティ運用を効率化する「AI for Security」とで大きく分かれます。前者はAIそのものを保護する話、後者は既存のセキュリティ対策をAIで高度化していく話で、言葉は似ていますが取り組みは大きく異なります。私はこれまで前者に注力してきましたが、現在はFoundation AIというAIモデルの研究開発で後者にも取り組んでいます。

佐藤　2010年代後半からセキュリティ運用を効率化する「AI for Security」というコンセプトは存在しましたが、生成AIの登場で使い勝手が大きく向上し、低価格で利用出来るようになりました。一方、Security for AIはここ数年で顕在化し、ルール順守の可視化やプロンプト監視など現場の課題が増えています。 

Security for AI：AIシステムの管理・防御

染谷　それでは「Security for AI」の方からお話を伺いたいと思います。AIシステムにはどのようなリスクがあるのでしょうか。

平田　AIのリスクは安全性（AI Safety）とセキュリティ（AI Security）に大別できます。対策は「発見・検出・保護」の三段階が必須と考えます。発見では、シャドーAIを含め社内で利用されているAIを可視化し管理者側がAIモデルを把握できる状況を作ります。検出では、攻撃者目線のテストを実行して脆弱性の傾向を把握し、必要に応じてモデル再選択やRAG等の拡張技術でリスク低減を図る。保護では、入出力をリアルタイム監視し、AI Safety／AI Securityのリスクを検知し、自動ブロックします。 

シスコシステムズ合同会社提供

染谷　AIシステムを守るためのシスコのソリューションについても教えてください。

平田　シスコでは企業全体のSecurity For AIを実現するソリューションとしてAI Defenseを提供しています。AI Defenseは、この三工程を一体でカバーするソリューションです。Robust Intelligenceの専門技術と研究者による継続的アップデートで、新種リスクにも追随します。最終的には各国ガイドラインや法規制に沿った運用を支え、金融・製造・ヘルスケア等の業界要件にも対応することを目指しています。

シスコシステムズ合同会社提供

佐藤　多くのお客様から、AI利用ルールは作ったが現場での逸脱が起こるという課題の相談を受けました。従来のWebフィルタやプロキシだけでは精度に限界があり、AI Defenseのようなきめ細かなコントロールが求められています。

デロイト トーマツ サイバー合同会社 パートナー 佐藤 功陛
外資系Slerでのセキュリティオペレーションセンター（SOC: Security Operation Center）センター長を経て、2015年デロイト トーマツ リスクサービス株式会社に入社。2016年5月、セキュリティ監視サービスおよび脅威インテリジェンス分析サービスを24時間体制で提供するサイバーインテリジェンスセンター(CIC: Cyber Intelligence Center)を設立し、センターの責任者を務める。近年はクラウド上に構築されたグローバルサービス基盤やWebアプリケーションの監視サービス、重要インフラ企業への脅威インテリジェンス提供やSOC構築支援などの案件を手がけている。

AI for Security：AIでセキュリティ運用を高度化・効率化

染谷　それでは、続いて「AI for Security」について教えてください。

平田　従来からのセキュリティ対策はAIによってイノベーションを起こすことが可能と言われていますが、その実現は容易ではありません。セキュリティデータは膨大かつ分散しており、統合分析と即応は容易ではありません。

我々が提供するFoundation AI はセキュリティに特化したモデルです。シスコに所属する米国トップクラスのAI研究者達によって開発されています。オープンソースとしてHugging Faceに無償で公開されており、世界中のセキュリティ関係者に利用されています。自社アプリケーションに組み込んで簡単にチューニングできますし、高機能なラップトップ上でも動作するほど軽量です。活用の機会は豊富にあり、防御面ではアラート検知、TTP抽出や根本原因の分析などのSOC業務の効率化・高度化、攻撃面ではレッドチームのプランニング、脅威モデルの生成、脅威ハンティングといった用途で活用されることを目指しています。

シスコシステムズ合同会社提供

オープンソースで提供すること自体についての配慮も、もちろんあります。こうしたモデルの公開がセキュリティにとって両刃の剣になるのではないかという質問を非常に多くいただきますが、その点はもちろん慎重な議論を進めています。現時点ではセキュリティ課題に向けてチューニングすることでモデルを洗練させるところから開始していますが、もし将来的にシスコが社内で保有するセキュリティデータのような機密情報を学習したモデルを公開する局面が来るならば、公開のあり方は適切に設計する必要があると考えています。

また、無償公開は進めつつ、一方で当社のセキュリティ製品群（Splunk Enterprise Security、Cisco XDR など）との親和性を持たせていく方針です。24年にシスコが買収したSplunkのAI機能を Foundation AI で高度化する議論も進んでいます。象徴的な例として今年7月より、Splunk の SURGe（セキュリティ研究の専門チーム）と Foundation AI が融合し、セキュリティとAIの専門家が共同で研究・開発する体制も構築しました。 

デロイト トーマツ リスクアドバイザリー合同会社 デロイトアナリティクス＆デジタルガバナンス パートナー Japan Trustworthy AI Lead 染谷 豊浩
30年以上に渡り、統計分析や機械学習、AI導入等の多数のデータ活用業務に従事。同時にディシジョンマネジメント領域でのソフトウエア開発、新規事業やAnalytics・DX組織の立上げなどの経験を通じて数多くの顧客企業のビジネスを改善。
幅広い分野のAI・Analyticsプロジェクトに従事し、デロイト トーマツ グループにおけるAIガバナンス領域のサービス責任者を務める。

AI for Security：オペレーションにおける課題とAIによる解決策

染谷　引き続きAI for Securityに関して伺います。サイバーセキュリティの分野ではこれまでにも多くの取組みが行われてきたと思いますが、現在においてはどのような課題があるのでしょうか。

佐藤　まずコスト構造です。ログ確認や初期調査といった単純作業に負荷が集中しがちで、ここをAIエージェントが先に進め、人は「答え合わせ」とリスク判断に集中する形にできれば、人件費の抑制につながります。アラート増加も深刻で、EDR（Endpoint Detection and Response）の普及により今まで可視化できていなかった脅威を検知することが出来るようになった反面、誤検知も多く5年前に比べ分析工数が数倍になった実感があります。そこでAI＋SOAR（Security Orchestration, Automation and Response）で反復業務を自動化し、検知→チケット化→調査→隔離といった流れをプレイブックで回し、初動情報の収集・要約・過去照合・推奨提示までAIで加速、人は例外対応と意思決定に専念する——この組み合わせが必要です。

平田　セキュリティ特化LLMを使えば、分散ログやナレッジを共通の「理解レイヤー」で束ねられます。説明可能性（Explainability）が高まり、経営層・現場・監査が同じ言語で状況共有しやすくなる。結果として運用負荷の削減と可視化の質向上を両立できると考えます。 

AI for Security：両社での連携とマネージドサービス

染谷　今後、シスコとデロイト トーマツによる連携でどのような取組みをしていくのでしょうか。

平田　国内外の連携体制を強化し、サイバー×AIガバナンスの両面から実装を後押しします。技術の供給とビジネス文脈への翻訳を役割分担し、導入〜定着まで伴走する——そんな進め方を想定しています。

佐藤　CIC立ち上げから約10年、基盤刷新を計画しています。シスコ社のSIEMやXDR製品に組み込まれるAIエージェントの活用、Foundation AIとの共同研究をどう形にするかがテーマです。AI Defenseのマネージドサービスも検討しており、「ツールは入れたが使いこなせない」「運用人材が足りない」という壁に対し、導入ハードルの低減と運用負荷の軽減、さらに経営層向けの可視化・レポーティングを整備します。

読者へのメッセージ

染谷　本日はAIセキュリティと対策ソリューションについて、わかりやすく解説していただきありがとうございました。最後に読者に向けたメッセージをお願いします。

平田　AIは日を追うごとにテーマが更新されるほどの速度で進化しています。現状・限界・優先課題を正しく見極め、自社のリスク許容度と事業目標に沿ったロードマップに落としていく。私たちは技術を提供することでその実装を支援します。

佐藤　ベンダーの提案を鵜呑みにせず、自分の目でトレンドを確認する機会を持ってください。AIエージェントの進展で、一部業務は人が答え合わせをする段階まで来ています。一方、日本語特有の文脈や各社ポリシー適合など、実務では課題も多い。信頼できるパートナーと組み、小さく始めて早く学び、段階的に拡張することをお勧めします。
 

連載一覧

• 第1回 AIセキュリティの未来を語る――Cisco Systems: Security for AI と AI for Security の両面から
• 第2回 AI活用を成功に導く鍵 ――Citadel AI: BSI（英国規格協会）でも採用されるAIの品質管理の最前線
• 第3回 Universal AI時代のガバナンス――Dataiku：AI民主化と信頼性の両立を実現する鍵とは
• 第4回 次世代のAI運用を実現する――統合プラットフォーム「watsonx」が描くガバナンス戦略
• 第5回 リアルタイムモニタリングで進化するAI運用――ServiceNow AI Control Tower: AI、データ、ワークフローをend-to-endで統合的に管理