最終更新日:
ファインチューニングとは、すでに学習を終えたモデルに、特定の用途のデータを追加で学ばせ、性質を調整することです。
ファインチューニングでは、基盤モデルやLLMに、業務の文書や、質問と望ましい答えの組などを追加で学ばせます。文体や専門分野の言い回し、決まった出力の形などを、モデルに身につけさせたいときに使われます。小さなモデル(SLM)を特定の作業に合わせる方法としても使われます。
プロンプトの工夫で足りない場合の選択肢ですが、社内の情報にもとづいて答えさせたいだけであれば、RAGのほうが手軽なことが多くあります。新しい知識を覚えさせるよりも、答え方や振る舞いを合わせる用途に向いています。
学習用のデータをそろえる手間、学習の費用、評価の手順が必要です。元のモデルが新しくなった場合は、学び直しが要ることもあります。重みを公開したオープンモデルでは自社の環境で行えるほか、提供元のしくみでファインチューニングできるサービスもあります。
ファインチューニングとRAGの使い分け
- 社内の情報で答える社内の情報にもとづいて答えさせたいだけであれば、RAGのほうが手軽なことが多くあります
- 答え方を合わせるファインチューニングが向いています。文体や言い回し、決まった出力の形など
ファインチューニングは、プロンプトの工夫で足りない場合の選択肢です
関連する用語
- RAG(検索拡張生成)生成AIが答える前に、社内の文書などから関係する情報を探し、その情報をもとに答えを作らせるしくみです。
- プロンプトエンジニアリング生成AIから意図に近い答えを引き出すために、指示の書き方や与える情報を工夫し、改善していく技術です。
- SLM(小規模言語モデル)LLMに比べてモデルの規模を小さく抑え、少ない計算資源で動かせるようにした言語モデルです。
- 基盤モデル大量で幅広いデータで事前に学習し、さまざまな用途に合わせて使える、土台となるAIのモデルです。