AIのセキュリティに関する指針の要点。どの資料を何に使うか

AIのセキュリティについては、国や専門の団体から複数の資料が出ており、それぞれ役割が違います。全体の方針を決めるときはAI事業者ガイドライン、技術的な対策を検討するときは総務省のAIセキュリティのガイドライン、安全性を評価し試すときはAISIのガイド、開発と診断の観点を決めるときはOWASPの一覧、と目的ごとに使い分けると、必要な資料にたどり着きやすくなります。

なぜ、AIのセキュリティが注目されているのか

生成AIを業務やサービスに組み込む会社が増え、AIそのものを狙う攻撃や、AIの使い方から生じる情報の漏えいへの備えが求められるようになっています。IPAの「情報セキュリティ10大脅威 2026」の組織編では、「AIの利用をめぐるサイバーリスク」が初めて選ばれ、3位に入りました。

出典：情報セキュリティ10大脅威 2026（IPA、2026年1月29日）

AIのセキュリティには、大きく2つの面があります。一つは、AIを組み込んだシステムを攻撃から守ることで、プロンプトインジェクションや、AIに必要以上の権限を与えることによる被害などが含まれます。もう一つは、AIを使う人の側の扱いで、機密の情報を外部のサービスに入力してしまうことなどが含まれます。資料によって、どちらの面を主に扱うかが違います。

目的ごとの、主な資料

主な資料は、全体の方針、技術的な対策、評価と試験、開発と診断の観点の4つの目的に分けると整理できます。

版と日付は、2026年11月時点で各組織の公式のページで確かめたものです。いずれも改訂が続いているため、使うときは最新の版を確かめます。

全体の方針：AI事業者ガイドライン

AI事業者ガイドラインは、AIの開発・提供・利用に関わる事業者が取り組む事項をまとめた指針で、事業者を「AI開発者」「AI提供者」「AI利用者」に分けて示しています。拘束力のない文書で、状況の変化に応じて更新されています。

自社がAIを使う立場なのか、AIを組み込んだサービスを提供する立場なのかで、読むべき部分が変わります。社内のAIの利用のルールや、AIの管理の体制を決めるときの土台として使えます。

出典：AI事業者ガイドライン（総務省・経済産業省）

技術的な対策：総務省のガイドライン

総務省の「AIのセキュリティ確保のための技術的対策に係るガイドライン」は、2026年3月27日に公表されました。総務省の発表では、AIに不正な出力を行わせたり、AIを搭載するシステムの停止を生じさせたりするといったAIへの脅威に対して、AIのセキュリティを確保するための技術的対策を検討した結果をまとめたものと説明されています。意見募集を経て策定され、本編と別添（付属資料）があります。

AIを組み込んだシステムを作る、または作ってもらうときに、どのような対策を設計に入れるかを検討する材料になります。

出典：「AIのセキュリティ確保のための技術的対策に係るガイドライン」の公表（総務省、2026年3月27日）

評価と試験：AISIのガイド

AISI（AIセーフティ・インスティテュート）は、AIの安全性を評価するための資料を公表しています。「AIセーフティに関する評価観点ガイド」は、AIの安全性を評価するときの観点をまとめたもので、2026年7月7日に第1.20版が公開されました。「AIセーフティに関するレッドチーミング手法ガイド」は、攻撃する側の立場から、AIシステムに施した対策の効果を確かめる手法をまとめたもので、第1.10版が2025年3月31日に公開されています。

AISIは、ヘルスケア領域やAIロボティクスに関する評価観点ガイドなど、分野ごとの資料も公開しています。AIを公開する前の確かめや、AIレッドチーミングの計画を立てるときに参照できます。

出典：アウトプット（AISI）、AIセーフティに関するレッドチーミング手法ガイド（AISI）

開発と診断の観点：OWASPの一覧

OWASPの「OWASP Top 10 for LLM Applications 2025」は、LLMを使うアプリの主なリスクを10項目にまとめたもので、開発のときの点検の観点や、診断で試す内容を決める土台としてよく使われます。項目には、プロンプトインジェクション、機密情報の漏えい、サプライチェーン、AIに必要以上の権限を与えること（Excessive Agency）、システムプロンプトの漏えい、利用量の上限がないこと（Unbounded Consumption）などが含まれます。

出典：OWASP Top 10 for LLM Applications 2025（OWASP Gen AI Security Project）

OWASPは、自分で道具を使って作業を進めるAIエージェントに特有のリスクをまとめた「OWASP Top 10 for Agentic Applications for 2026」も公表しています。項目ごとの説明は生成AIのセキュリティ：情報漏えいとプロンプトインジェクションで、診断での当てはめ方は生成AI・LLMアプリのセキュリティ診断で確かめることで説明しています。

出典：OWASP Top 10 for Agentic Applications for 2026（OWASP Gen AI Security Project）

資料を、どう使えばよいか

資料はどれも量が多いため、全部を読み込むより、自社の立場と目的に合う部分から使うほうが進めやすくなります。

• AIを社内で使う会社：AI事業者ガイドラインの「AI利用者」の部分をもとに、入力してよい情報の決まりと、使ってよいサービスを決めます。決まりの作り方は社内の生成AIの利用ルールの作り方で説明しています
• AIを組み込んだシステムを作る会社：総務省のガイドラインとOWASPの一覧を、設計と開発の点検の観点にします
• AIを公開する前に確かめたい会社：AISIの評価観点ガイドとレッドチーミング手法ガイドを参考に、試す範囲と方法を決めます

いずれの資料も、法律のような拘束力を持つものではありません。一方で、取引先から対策の状況を聞かれたときに、どの資料を参考にしたかを示すと、説明の根拠になります。AIの法律と国の指針の全体像は、日本のAIに関する法律とガイドラインの要点で扱っています。

当社のご支援

アメリア・テクノロジーのセキュリティ診断と対策では、生成AI・LLMを使ったアプリ、社内の資料を参照するAI、AIエージェントを対象に、OWASP Top 10 for LLM Applications 2025 や AISI のレッドチーミング手法ガイドの観点を参考にした診断を行っています。見つかった問題を直すところや、生成AIの利用のルールづくりもお受けします。社内の利用のルールの状況をおおまかに確かめたい場合は、無料の生成AIの利用ルール診断をお使いください。