最終更新日:
チャットボットとは、文字や音声での問いかけに、会話の形で自動で答えるプログラムです。
チャットボットには、あらかじめ用意した質問と答えの組み合わせや分岐から答えを選ぶものと、LLMを使って文章で答えを作るものがあります。LLMを使うものは言い回しの違う質問にも答えやすく、社内の文書を検索して答えるRAGと組み合わせると、自社の情報にもとづいた答えを返せます。
業務では、社内のヘルプデスク、顧客からの問い合わせの一次対応、手続きの案内、社内の規程の検索などに使われます。よくある質問への対応を任せ、人は判断の要る問い合わせに時間を使う、という分け方が考えられます。
LLMを使うチャットボットは、もっともらしい誤った答え(ハルシネーション)を返すことがあります。答えの根拠となる文書を示す、答えられない質問は担当者へつなぐ、といった設計にしておきます。答えのもとになる文書を新しく保つ運用の担当も決めておきます。
関連する用語
- RAG(検索拡張生成)生成AIが答える前に、社内の文書などから関係する情報を探し、その情報をもとに答えを作らせるしくみです。
- LLM(大規模言語モデル)大量の文章を学び、次に来る言葉を予測することで文章を作るAIのモデルです。
- ハルシネーション生成AIが事実と異なる内容を、正しいことのように答えてしまう現象です。
- トークンLLMが文章を扱うときの単位で、文章を単語や文字の一部などに分けたものです。
- ファインチューニングすでに学習を終えたモデルに、特定の用途のデータを追加で学ばせ、性質を調整することです。
- プロンプト人が生成AIに与える指示や質問の文章です。