---
title: "AIのセキュリティに関する指針の要点。どの資料を何に使うか｜アメリア・テクノロジー株式会社"
url: https://www.ameliatechnology.co.jp/blog/ai-security-guidelines/
description: "AIのセキュリティについては、総務省・経済産業省・AISI・OWASPなどから資料が出ています。2026年11月時点の主な資料の位置づけと要点、全体の方針・技術的な対策・評価と試験・開発の観点という目的ごとの使い分けを整理します。"
updated: 2026-11-12
publisher: "アメリア・テクノロジー株式会社"
---
# AIのセキュリティに関する指針の要点。どの資料を何に使うか

AIのセキュリティについては、総務省・経済産業省・AISI・OWASPなどから資料が出ています。2026年11月時点の主な資料の位置づけと要点、全体の方針・技術的な対策・評価と試験・開発の観点という目的ごとの使い分けを整理します。

2026.11.12 [AI・ITの動向](https://www.ameliatechnology.co.jp/blog/category/trends/)

執筆 [石田誠](https://www.ameliatechnology.co.jp/blog/author/ishida/)（グループCTO）

AI・ITの動向（TRENDS）のコラム

## この記事の要点

- IPAの「情報セキュリティ10大脅威 2026」の組織編で、「AIの利用をめぐるサイバーリスク」が初めて選ばれ、3位に入りました。
- 全体の方針はAI事業者ガイドライン、技術的な対策は総務省のAIセキュリティのガイドライン、評価と試験はAISIのガイド、開発と診断の観点はOWASPの一覧、と使い分けると整理しやすくなります。
- いずれも法律のような拘束力を持つものではありませんが、取引先への説明や社内の決まりの根拠として使えます。

AIのセキュリティについては、国や専門の団体から複数の資料が出ており、それぞれ役割が違います。全体の方針を決めるときはAI事業者ガイドライン、技術的な対策を検討するときは総務省のAIセキュリティのガイドライン、安全性を評価し試すときはAISIのガイド、開発と診断の観点を決めるときはOWASPの一覧、と目的ごとに使い分けると、必要な資料にたどり着きやすくなります。

## なぜ、AIのセキュリティが注目されているのか

生成AIを業務やサービスに組み込む会社が増え、AIそのものを狙う攻撃や、AIの使い方から生じる情報の漏えいへの備えが求められるようになっています。IPAの「情報セキュリティ10大脅威 2026」の組織編では、「AIの利用をめぐるサイバーリスク」が初めて選ばれ、3位に入りました。

出典：[情報セキュリティ10大脅威 2026（IPA、2026年1月29日）](https://www.ipa.go.jp/security/10threats/10threats2026.html)

AIのセキュリティには、大きく2つの面があります。一つは、AIを組み込んだシステムを攻撃から守ることで、[プロンプトインジェクション](https://www.ameliatechnology.co.jp/glossary/prompt-injection/)や、AIに必要以上の権限を与えることによる被害などが含まれます。もう一つは、AIを使う人の側の扱いで、機密の情報を外部のサービスに入力してしまうことなどが含まれます。資料によって、どちらの面を主に扱うかが違います。

## 目的ごとの、主な資料

主な資料は、全体の方針、技術的な対策、評価と試験、開発と診断の観点の4つの目的に分けると整理できます。

| 目的 | 主な資料 | 出している組織 |
|---|---|---|
| 全体の方針 | AI事業者ガイドライン（第1.2版、2026年3月31日） | 総務省・経済産業省 |
| 技術的な対策 | AIのセキュリティ確保のための技術的対策に係るガイドライン（2026年3月27日） | 総務省 |
| 評価と試験 | AIセーフティに関する評価観点ガイド（第1.20版、2026年7月7日）、AIセーフティに関するレッドチーミング手法ガイド（第1.10版、2025年3月31日） | AISI（AIセーフティ・インスティテュート） |
| 開発と診断の観点 | OWASP Top 10 for LLM Applications 2025 | OWASP Gen AI Security Project |

版と日付は、2026年11月時点で各組織の公式のページで確かめたものです。いずれも改訂が続いているため、使うときは最新の版を確かめます。

## 全体の方針：AI事業者ガイドライン

AI事業者ガイドラインは、AIの開発・提供・利用に関わる事業者が取り組む事項をまとめた指針で、事業者を「AI開発者」「AI提供者」「AI利用者」に分けて示しています。拘束力のない文書で、状況の変化に応じて更新されています。

自社がAIを使う立場なのか、AIを組み込んだサービスを提供する立場なのかで、読むべき部分が変わります。社内のAIの利用のルールや、AIの管理の体制を決めるときの土台として使えます。

出典：[AI事業者ガイドライン（総務省・経済産業省）](https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/02ryutsu20_04000019.html)

## 技術的な対策：総務省のガイドライン

総務省の「AIのセキュリティ確保のための技術的対策に係るガイドライン」は、2026年3月27日に公表されました。総務省の発表では、AIに不正な出力を行わせたり、AIを搭載するシステムの停止を生じさせたりするといったAIへの脅威に対して、AIのセキュリティを確保するための技術的対策を検討した結果をまとめたものと説明されています。意見募集を経て策定され、本編と別添（付属資料）があります。

AIを組み込んだシステムを作る、または作ってもらうときに、どのような対策を設計に入れるかを検討する材料になります。

出典：[「AIのセキュリティ確保のための技術的対策に係るガイドライン」の公表（総務省、2026年3月27日）](https://www.soumu.go.jp/menu_news/s-news/01cyber01_02000001_00282.html)

## 評価と試験：AISIのガイド

AISI（AIセーフティ・インスティテュート）は、AIの安全性を評価するための資料を公表しています。「AIセーフティに関する評価観点ガイド」は、AIの安全性を評価するときの観点をまとめたもので、2026年7月7日に第1.20版が公開されました。「AIセーフティに関するレッドチーミング手法ガイド」は、攻撃する側の立場から、AIシステムに施した対策の効果を確かめる手法をまとめたもので、第1.10版が2025年3月31日に公開されています。

AISIは、ヘルスケア領域やAIロボティクスに関する評価観点ガイドなど、分野ごとの資料も公開しています。AIを公開する前の確かめや、[AIレッドチーミング](https://www.ameliatechnology.co.jp/glossary/ai-red-teaming/)の計画を立てるときに参照できます。

出典：[アウトプット（AISI）](https://aisi.go.jp/output/)、[AIセーフティに関するレッドチーミング手法ガイド（AISI）](https://aisi.go.jp/output/output_framework/guide_to_red_teaming_methodology_on_ai_safety/)

## 開発と診断の観点：OWASPの一覧

OWASPの「OWASP Top 10 for LLM Applications 2025」は、LLMを使うアプリの主なリスクを10項目にまとめたもので、開発のときの点検の観点や、診断で試す内容を決める土台としてよく使われます。項目には、プロンプトインジェクション、機密情報の漏えい、サプライチェーン、AIに必要以上の権限を与えること（Excessive Agency）、システムプロンプトの漏えい、利用量の上限がないこと（Unbounded Consumption）などが含まれます。

出典：[OWASP Top 10 for LLM Applications 2025（OWASP Gen AI Security Project）](https://genai.owasp.org/llm-top-10/)

OWASPは、自分で道具を使って作業を進める[AIエージェント](https://www.ameliatechnology.co.jp/glossary/ai-agent/)に特有のリスクをまとめた「OWASP Top 10 for Agentic Applications for 2026」も公表しています。項目ごとの説明は[生成AIのセキュリティ：情報漏えいとプロンプトインジェクション](https://www.ameliatechnology.co.jp/blog/genai-security/)で、診断での当てはめ方は[生成AI・LLMアプリのセキュリティ診断で確かめること](https://www.ameliatechnology.co.jp/blog/llm-app-security-assessment/)で説明しています。

出典：[OWASP Top 10 for Agentic Applications for 2026（OWASP Gen AI Security Project）](https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/)

## 資料を、どう使えばよいか

資料はどれも量が多いため、全部を読み込むより、自社の立場と目的に合う部分から使うほうが進めやすくなります。

- **AIを社内で使う会社**：AI事業者ガイドラインの「AI利用者」の部分をもとに、入力してよい情報の決まりと、使ってよいサービスを決めます。決まりの作り方は[社内の生成AIの利用ルールの作り方](https://www.ameliatechnology.co.jp/blog/genai-usage-policy/)で説明しています
- **AIを組み込んだシステムを作る会社**：総務省のガイドラインとOWASPの一覧を、設計と開発の点検の観点にします
- **AIを公開する前に確かめたい会社**：AISIの評価観点ガイドとレッドチーミング手法ガイドを参考に、試す範囲と方法を決めます

いずれの資料も、法律のような拘束力を持つものではありません。一方で、取引先から対策の状況を聞かれたときに、どの資料を参考にしたかを示すと、説明の根拠になります。AIの法律と国の指針の全体像は、[日本のAIに関する法律とガイドラインの要点](https://www.ameliatechnology.co.jp/blog/japan-ai-law-guidelines/)で扱っています。

## 当社のご支援

アメリア・テクノロジーの[セキュリティ診断と対策](https://www.ameliatechnology.co.jp/service/security/)では、生成AI・LLMを使ったアプリ、社内の資料を参照するAI、AIエージェントを対象に、OWASP Top 10 for LLM Applications 2025 や AISI のレッドチーミング手法ガイドの観点を参考にした診断を行っています。見つかった問題を直すところや、生成AIの利用のルールづくりもお受けします。社内の利用のルールの状況をおおまかに確かめたい場合は、無料の[生成AIの利用ルール診断](https://www.ameliatechnology.co.jp/diagnosis/ai-rules/)をお使いください。

- AIのセキュリティ
- ガイドライン
- 生成AI
- OWASP

## この記事に出てくる用語

- [OWASP Top 10](https://www.ameliatechnology.co.jp/glossary/owasp-top-10/)
- [生成AI](https://www.ameliatechnology.co.jp/glossary/generative-ai/)
- [情報セキュリティ](https://www.ameliatechnology.co.jp/glossary/information-security/)
- [プロンプトインジェクション](https://www.ameliatechnology.co.jp/glossary/prompt-injection/)
- [AIレッドチーミング](https://www.ameliatechnology.co.jp/glossary/ai-red-teaming/)
- [LLM（大規模言語モデル）](https://www.ameliatechnology.co.jp/glossary/llm/)
- [AIエージェント](https://www.ameliatechnology.co.jp/glossary/ai-agent/)
- [脆弱性診断](https://www.ameliatechnology.co.jp/glossary/vulnerability-assessment/)

## 関連する法令・指針（参考情報）

- 指針
   総務省・経済産業省「AI事業者ガイドライン」（第1.2版（2026年3月31日））
   AIを安全・安心に活用するため、AIの開発・提供・利用に関わる事業者が取り組む事項をまとめた指針です。事業者を「AI開発者」「AI提供者」「AI利用者」に分けて示しています。拘束力のない文書で、状況の変化に応じて更新されています。
   [発行元の公式ページで開く](https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/02ryutsu20_04000019.html)
- 指針
   総務省「AIのセキュリティ確保のための技術的対策に係るガイドライン」（2026年3月27日）
   AIに不正な出力をさせる攻撃や、AIを組み込んだシステムを止める攻撃などへの技術的な対策をまとめたガイドラインです。
   [発行元の公式ページで開く](https://www.soumu.go.jp/menu_news/s-news/01cyber01_02000001_00282.html)
- 指針
   AIセーフティ・インスティテュート（AISI）「AIセーフティに関する評価観点ガイド」（第1.20版（2026年7月7日））
   AIシステムの安全性を評価するときの観点と評価項目の例をまとめたガイドです。第1.20版では、AIエージェントのシステムの普及を踏まえて、評価の観点と項目の例が更新・拡充されています。
   [発行元の公式ページで開く](https://aisi.go.jp/output/output_framework/guide_to_evaluation_perspective_on_ai_safety/)
- 指針
   AIセーフティ・インスティテュート（AISI）「AIセーフティに関するレッドチーミング手法ガイド」（第1.10版（2025年3月31日））
   AIを使ったシステムに対して、攻撃者の視点から対策の有効性を確かめる「レッドチーミング」の進め方をまとめたガイドです。RAG を組み込んだシステムで行う例も説明しています。
   [発行元の公式ページで開く](https://aisi.go.jp/output/output_framework/guide_to_red_teaming_methodology_on_ai_safety/)

法令は2026年10月21日時点の内容です。要旨は当社がまとめたもので、条文・判決・指針の全文ではありません。個別の事案への当てはめは、弁護士・社会保険労務士などの専門家にご確認ください。表記の決まりは[法令・指針の参考情報と凡例](https://www.ameliatechnology.co.jp/knowledge/legal/)をご覧ください。

この記事を書いた人

[石田誠](https://www.ameliatechnology.co.jp/blog/author/ishida/) グループCTO

インターネットの黎明期から、ホスティング事業の立ち上げや、インフラ・セキュリティのプロジェクトに携わってきました。現在は、AWS・Azure へのクラウド移行の支援と、業務アプリケーションの要件定義から実装までを担っています。

このコラムは一般的な情報の提供を目的としたもので、個別の状況への助言ではありません。製品・サービスの名前と内容は、記事の更新日の時点のものです。

## あわせて読みたい

- [インボイス制度・電子帳簿保存法と、システムの対応](https://www.ameliatechnology.co.jp/blog/invoice-denchoho-systems/)
- [能動的サイバー防御の法律と、企業への影響](https://www.ameliatechnology.co.jp/blog/active-cyber-defense-law/)
- [AIを使ったサイバー攻撃と、会社の備え](https://www.ameliatechnology.co.jp/blog/ai-era-cyber-attacks/)

[AI・ITの動向のコラムを見る](https://www.ameliatechnology.co.jp/blog/category/trends/) [コラムの一覧に戻る](https://www.ameliatechnology.co.jp/blog/)

## 次の一歩

### AI開発の例を見る

帳票の読み取り、配車計画、需要予測、AIエージェントなど、お客様の社名を伏せ、業種で紹介しています。

[AI開発の例を見る](https://www.ameliatechnology.co.jp/works/ai/)

### まずは30分、オンラインで話してみる

何に使うかが決まっていない段階でも構いません。30分のオンライン相談は無料です。

[無料で相談する](https://www.ameliatechnology.co.jp/contact/)

## ご関心に合わせて、お選びください。

[情報を集めている方へ会社案内、AI開発の例、セキュリティ診断の報告書の見本をお送りします。資料をダウンロード](https://www.ameliatechnology.co.jp/download/)[課題が見えている方へオンラインで30分、お話をうかがいます。費用はかかりません。無料で相談する](https://www.ameliatechnology.co.jp/contact/)[進め方を決めたい方へ2〜4週間で、優先順位と計画をまとめるAI活用の診断です。診断について見る](https://www.ameliatechnology.co.jp/pricing/#diagnosis)

---

出典：アメリア・テクノロジー株式会社「AIのセキュリティに関する指針の要点。どの資料を何に使うか｜アメリア・テクノロジー株式会社」 https://www.ameliatechnology.co.jp/blog/ai-security-guidelines/