AIの利用をめぐるサイバーリスクの実務上の留意点

生成AIは、文章作成、議事録の要約、情報収集、データ整理など、日々の業務を大きく効率化する存在として急速に普及しています。一方で、その利便性の裏側には、従来のITセキュリティとは異なる新たなリスクも潜んでいます。

IPAが公表した「情報セキュリティ10大脅威2026」では、「AIの利用をめぐるサイバーリスク」が初めて選出され、組織編で第3位にランクインしました。これは、AIに関するリスクが一部の専門家だけの論点ではなく、多くの企業・組織が実務として向き合うべき重要テーマになっていることを示しています。

本記事は、デロイト トーマツのサイバーセキュリティ専門家とAI専門家がそれぞれの専門的知見をもとに、AI時代に求められるセキュリティ対策をわかりやすく解説したものです。AIの普及スピードに加え、AIエージェントのように自律的に判断・実行する仕組みが広がりつつある中で、なぜ今、AIのセキュリティ対策が急務となっているのかを概観します。

機密情報や個人情報を不用意にAIへ入力してしまうリスク、AIの出力を根拠確認なしに信じてしまうリスク、外部文書に埋め込まれた悪意ある指示によってAIが意図しない動作をする「プロンプトインジェクション」、さらにはAIエージェントに過大な権限を与えた場合の誤操作や被害拡大など、実務で起こり得る具体的なリスクを取り上げています。

本稿はAIを単に「守るべき対象」として捉えるだけではありません。AIを「セキュリティ対策に活用するもの」、そして「攻撃者にも利用され得るもの」として捉え、AIとサイバーセキュリティの関係を3つの視点から俯瞰します。AIを過度に恐れるのではなく、安全に使いこなすために必要な考え方を提示します。

機密区分に応じた入力ルールの整備、出力内容に対する人による確認、最小権限の原則、関係部門が連携したガバナンス体制の構築など、すぐに検討できる実践的なポイントも多く盛り込まれています。

生成AIを業務で活用する機会がますます増えている今こそ、その利便性だけでなく、リスクにも目を向けることが重要です。デロイト トーマツのサイバーセキュリティとAIの専門家が共同で解説する本記事を「AI時代のセキュリティ対策を考えるきっかけ」として、ぜひご覧ください。