生成AIをクラウドで使うときのデータの守り方

生成AIをクラウドで使うときのデータの守り方は、「入力したデータが学習に使われないか」「どこで処理され、どのくらい残るか」「残さない設定はあるか」をサービスごとに確かめ、そのうえで、何を入力してよいかの社内の決まりと、権限と記録の管理を組み合わせることです。

生成AIのセキュリティの全体（情報漏えい、プロンプトインジェクションなど）は、生成AIのセキュリティ：情報漏えいとプロンプトインジェクションで説明しています。この記事では、クラウドの生成AIの仕組みに預けるデータの扱いに絞ります。

最初に確かめる3つのこと

クラウドの生成AIの仕組みを使う前に、次の3つを公式の文書で確かめます。

1. 学習に使われるか：入力（プロンプト）や出力が、基盤のモデルの改善に使われるか
2. どこで処理され、どこに残るか：処理と保存がどの地域で行われるか。設定によって国の外で処理されることがあるか
3. どのくらい残るか：不正な利用の見張りや一時的な保存のために、データが残るか。残さない設定はあるか

この3つは、同じクラウドの事業者でも、サービス、モデル、使う機能、設定によって変わります。以下は2026年11月時点の公式の説明で、使うときは最新の文書を確かめてください。

3つのクラウドの公式の説明

Amazon Bedrock（AWS）

Amazon Bedrock は、モデルの提供者ごとに AWS が持ち運用する「モデルのデプロイ用のアカウント」にモデルを置き、モデルの提供者はそのアカウントに触れられないため、Bedrock の記録や利用者のプロンプトと出力にも触れられないと説明しています。

出典：Data protection（Amazon Bedrock、AWS）

データを残すかどうかは、利用者が設定で選べると説明されています。「none」では、要求と応答のデータを AWS が長く残る形で保存せず、モデルの提供者とも共有しません。「default」では、安全と不正の防止のために AWS がデータを残すことがありますが、モデルの提供者には渡りません。モデルによっては、提供者が利用の条件とする人による確認のため、プロンプトと出力を AWS の中で最長30日残す場合があるとも説明しています。

出典：Data retention（Amazon Bedrock、AWS）

Microsoft Foundry（Microsoft Azure）

Microsoft は、Microsoft Foundry で Azure が提供するモデル（Azure OpenAI のモデルを含む）について、プロンプト・出力・埋め込み・学習用のデータは、ほかの利用者や OpenAI などのモデルの提供者に渡らず、提供者のモデルの改善にも、利用者の許可や指示なしに基盤のモデルの学習にも使われないと説明しています。モデルはプロンプトや出力を保存しないとしています。

一方で、不正な利用の見張りのために、問題があるとされたデータは人の確認のための別の保存場所に置かれることがあり、承認を受けると、その保存と人による確認を行わない形（modified abuse monitoring）にできると説明しています。処理の場所は、利用者が決めた地域の中が原則ですが、Global や DataZone の配置の種類では、その範囲の地域で処理されることがあります。

出典：Data, privacy, and security for Models sold by Azure in Microsoft Foundry（Microsoft Learn）

Gemini Enterprise Agent Platform（Google Cloud）

Gemini Enterprise Agent Platform（旧 Vertex AI）について、Google は、事前の許可や指示なしに、利用者のデータを AI や機械学習のモデルの学習や調整に使わないと説明しています。

データは既定で一時的に保存（キャッシュ）され、24時間以内に消えるとされ、方針で保存を認めない場合は、プロジェクトごとに止められます。データを残さない状態（zero data retention）にするには、いくつかの項目で利用者が設定する必要があります。Google のモデルでは、不正な利用を見つけるためにプロンプトを記録することがあり、Google 検索との連携（Grounding with Google Search）を使う場合は、その情報の保存を止める方法はないと説明しています。

出典：Data governance（Gemini Enterprise Agent Platform、Google Cloud）

3つに共通するのは、基盤のモデルの学習には使わないとしつつ、不正な利用の見張りや一時的な保存のためにデータが残る場合があり、それを残さないには設定や申請が要るという点です。外部の検索との連携など、追加の機能を使うと扱いが変わることにも注意します。

個人情報を入力するとき

個人情報を含むデータを生成AIに入力する場合は、個人情報保護法の観点からも確かめます。個人情報保護委員会は、2023年6月2日の注意喚起で、事業者が個人情報を含むプロンプトを入力する場合は、その個人情報の利用目的を達成するために必要な範囲内であることを十分に確かめるよう求めています。

あわせて、本人の同意なく個人データを入力し、そのデータが応答の出力以外の目的で扱われる場合は、法の規定に違反する可能性があるとし、サービスの事業者がその個人データを機械学習に使わないことなどを十分に確かめるよう求めています。

出典：生成AIサービスの利用に関する注意喚起等（個人情報保護委員会、令和5年6月2日）

データの処理の場所が国の外になる場合の考え方は、クラウドに置く個人データと保存場所（国内・海外）の考え方で説明しています。個別の判断は、弁護士などの専門家にご確認ください。

社内の決まりと、クラウドの設定

サービスの説明を確かめたら、社内の決まりと、クラウドの側の設定を組み合わせて守ります。

• 入力してよいデータを決める：データの分類ごとに、生成AIに入力してよいかを決める。分類の決め方は、情報の分類と取り扱いの決まりのつくり方を参照してください
• 使えるモデルと機能を絞る：確かめたモデル、地域、配置の種類だけを使えるようにし、検索との連携などの追加の機能は、扱いを確かめてから許す
• 権限を絞る：生成AIの仕組みを呼べる人や仕組みを、最小権限の原則で絞る。アクセスキーを配らない設計は、アクセスキーの漏えいを防ぐ。キーを使わない設計で説明しています
• 記録を残す：誰が、いつ使ったかを記録する。記録にプロンプトの中身を残す場合は、その記録自体の保管と閲覧の権限も決める
• 見直す：サービスの説明や設定の選択肢は変わるため、定期的に確かめ直す

社内の利用の決まりのつくり方は、社内の生成AIの利用ルールの作り方にまとめています。

当社のご支援

アメリア・テクノロジーのクラウドの構築と運用管理では、クラウドの生成AIの仕組みを使うときの、地域と配置の選び方、データを残さない設定、権限と記録の設計をお手伝いしています。生成AIを使った仕組みの安全性を確かめたい場合は、セキュリティ診断と対策のAIアプリの診断と連携します。当社が構築・運用している環境の診断は、自己点検として報告します。