--- title: "AIレッドチーミングとは｜用語集｜アメリア・テクノロジー株式会社" url: https://www.ameliatechnology.co.jp/glossary/ai-red-teaming/ description: "AIレッドチーミングとは、攻撃する側の立場からAIのシステムを試し、施した対策が働くかを確かめる評価の方法です。AIセーフティ・インスティテュート（AISI）の「AIセーフティに関するレッドチーミング手法ガイド」は…" updated: 2026-10-23 publisher: "アメリア・テクノロジー株式会社" --- # AIレッドチーミング [セキュリティ](https://www.ameliatechnology.co.jp/glossary/?c=security) 最終更新日：2026年10月23日 **AIレッドチーミングとは、**攻撃する側の立場からAIのシステムを試し、施した対策が働くかを確かめる評価の方法です。 AIセーフティ・インスティテュート（AISI）の「AIセーフティに関するレッドチーミング手法ガイド」は、AIのシステムの開発者や提供者が、施したリスクへの対策を攻撃者の視点から評価する手法として説明しています。生成AIを使ったシステムでは、プロンプトインジェクションで想定外の動きをさせられないか、機密の情報や本来の指示（システムプロンプト）を引き出せないか、不適切な出力をしないか、といった点を試します。 AIエージェントやRAGのように、外部の文章を読み込み、ツールを操作する仕組みでは、AIのモデルだけでなく、つながっているデータや与えた権限まで含めて確かめます。観点の整理には、OWASPの「OWASP Top 10 for LLM Applications 2025」や、AISIの「AIセーフティに関する評価観点ガイド」などが参考になります。 AIの出力は同じ入力でも変わることがあるため、試した範囲で問題が見つからなくても、問題がないことの証明にはなりません。モデルの更新やプロンプトの変更の後には、あらためて確かめます。攻撃に近いことを実際に行うため、範囲と手順、中止するときの連絡の方法を事前に書面で取り決めます。 ## 関連する用語 - [プロンプトインジェクションAIに読ませる文章に悪意のある指示を紛れ込ませ、本来の指示とは違う動きをさせる攻撃です。](https://www.ameliatechnology.co.jp/glossary/prompt-injection/) - [ガードレール生成AIやAIエージェントが、決められた範囲から外れた答えや操作をしないようにする、安全のための仕掛けです。](https://www.ameliatechnology.co.jp/glossary/guardrails/) - [ペネトレーションテスト攻撃者の立場で実際にシステムへの侵入を試み、目的の情報や権限に届くかを確かめる検査です。](https://www.ameliatechnology.co.jp/glossary/penetration-test/) - [AIエージェント与えられた目的に向けて自分で手順を考え、ツールやほかのシステムを操作しながら作業を進めるAIです。](https://www.ameliatechnology.co.jp/glossary/ai-agent/) ## この用語が出てくるコラム - [生成AI・LLMアプリのセキュリティ診断で確かめること](https://www.ameliatechnology.co.jp/blog/llm-app-security-assessment/) - [生成AIのセキュリティ：情報漏えいとプロンプトインジェクション](https://www.ameliatechnology.co.jp/blog/genai-security/) [用語集の一覧に戻る](https://www.ameliatechnology.co.jp/glossary/) [ナレッジのトップへ](https://www.ameliatechnology.co.jp/knowledge/) ## 次の一歩 ### システムとAIの弱点を診断し、直す Web・クラウド・ネットワークと生成AIを使ったシステムを、書面で合意した範囲で診断し、見つかった問題を直すところまで受け持ちます。 [セキュリティ診断と対策を見る](https://www.ameliatechnology.co.jp/service/security/) ### まずは30分、オンラインで話してみる 何に使うかが決まっていない段階でも構いません。30分のオンライン相談は無料です。 [無料で相談する](https://www.ameliatechnology.co.jp/contact/) ## ご関心に合わせて、お選びください。 [情報を集めている方へ会社案内、AI開発の例、セキュリティ診断の報告書の見本をお送りします。資料をダウンロード](https://www.ameliatechnology.co.jp/download/)[課題が見えている方へオンラインで30分、お話をうかがいます。費用はかかりません。無料で相談する](https://www.ameliatechnology.co.jp/contact/)[進め方を決めたい方へ2〜4週間で、優先順位と計画をまとめるAI活用の診断です。診断について見る](https://www.ameliatechnology.co.jp/pricing/#diagnosis) --- 出典：アメリア・テクノロジー株式会社「AIレッドチーミングとは｜用語集｜アメリア・テクノロジー株式会社」 https://www.ameliatechnology.co.jp/glossary/ai-red-teaming/