最終更新日：
RAGとは、生成AIが答える前に、社内の文書などから関係する情報を探し、その情報をもとに答えを作らせるしくみです。
RAGは Retrieval-Augmented Generation の略です。質問を受けると、まず社内規程やマニュアル、製品の資料などから関係する部分を検索し、その文章をプロンプトに添えてLLMに渡します。LLMは、渡された情報をもとに答えを作ります。検索には、エンベディングとベクトルデータベースがよく使われます。
LLMが学んでいない社内の情報や新しい情報にもとづいて答えられるため、社内の問い合わせ対応、規程やマニュアルの検索、営業の資料探しなどで使われます。モデルを学習し直さなくても、文書を差し替えれば答えに反映できる点も利点です。
答えの質は、検索で正しい文書を見つけられるかに大きく左右されます。元の文書が古い、重複している、表や図が読み取れない、といった問題があると、誤った答えにつながります。文書の整理と、閲覧の権限に合わせた検索の制御も欠かせません。
RAGで答えができるまで
1. 探す
質問
社内の文書から関係する部分を検索
関係する文章社内規程・マニュアル・製品の資料など
2. 答えを作る
関係する文章プロンプトに添える
LLMに渡す
LLMが答えを作る渡された情報をもとに
検索には、エンベディングとベクトルデータベースがよく使われます。答えの質は、検索で正しい文書を見つけられるかに大きく左右されます
関連する用語
- LLM（大規模言語モデル）大量の文章を学び、次に来る言葉を予測することで文章を作るAIのモデルです。
- エンベディング（埋め込み）文章や画像などの意味を、数値の並び（ベクトル）に置き換えたものです。
- ベクトルデータベースエンベディング（数値の並び）を保存し、意味の近いデータをすばやく探せるようにしたデータベースです。
- ハルシネーション生成AIが事実と異なる内容を、正しいことのように答えてしまう現象です。