RAGとファインチューニングの違いをざっくり理解する

生成AIを活用して、特定のタスクに対応させための手法として「RAG」と「ファインチューニング」という2つの手法がありますが、それぞれどんな特徴があり、どのように使い分けるべきかご存知でしょうか？
自身の備忘録も兼ねて、それらの違いや選択のポイントを簡単にまとめたいと思います。情報が古かったり、誤っている点がありましたらコメントいただければ幸いです。

目次

1. RAGとファインチューニングとは
2. RAGとファインチューニングの比較
3. まとめ

RAGとファインチューニングとは

RAG（Retrieval-Augmented Generation）とファインチューニングは、いずれも特定のタスクに特化させるためのアプローチです。

• RAG
  外部知識ソースから事実を検索し、それを用いて回答を生成する手法です。マニュアルや資料を参照しながら回答するイメージで、特に事実ベースの情報を扱うタスクに強みがあります。
• ファインチューニング
  特定のタスクや文脈に応じた学習データを使ってモデルを追加学習する手法です。新しい知識をOJTで学ぶように、特定の「形式」や「らしさ」を学習させることが可能で、モデルそのものが変化します。

RAGとファインチューニングの比較

昨今はRAGが注目されていますが、タスクや状況によって適切な選択は異なります。

RAGとファインチューニングの比較

• 技術的特徴
• • RAGは外部の知識を参照しながら回答を生成するため、最新の事実を取り入れることが可能です。例えば、「製品の操作方法を教えてください」といった質問に対して、RAGは最新の製品マニュアルから情報を引き出し、その内容を回答します。このように、マニュアルのような事実の情報を求めるタスクに向いています。また、モデル自体は変化しないため、更新やメンテナンスが容易です。
  • ファインチューニングは、モデルが特定の形式や「らしさ」を学習するのに適しています。例えば、特定の顧客対応フローを学習させることで、そのフローに沿った対応を生成できるようになります。具体的には、飲食店の予約対応において、特定の手順（挨拶、予約内容の確認、追加の案内）をモデルに学習させることで、予約の際に一貫した対応を提供できるようになります。モデル自体が変化するため、一度学習した内容は外部の知識ソースに依存せずに応答に反映されます。
• 得意なタスク
• • RAGは事実ベースのタスクに適しています。例えば、製品仕様に基づく問い合わせ対応などです。
  • ファインチューニングは**形式や「らしさ」**が求められる場合に適しています。ブランドのトーンを維持した顧客対応などです。
• 開発リソース
• • RAGは既存のデータを活用するためのセットアップが比較的容易ですが、検索や情報統合を行うコード開発にはやや専門性が必要です。
  • ファインチューニングは、学習に使用するデータセットの作成が重要で、時間と費用がかかりますが、その分カスタマイズ性が高まります。
• 技術的資産価値
• • RAGは同じデータを利用すれば比較的模倣しやすいですが、外部知識の組み合わせによる柔軟性があります。
  • ファインチューニングは時間とお金をかけてモデルを作成することから模倣が困難であり、技術的な資産価値は比較的高いと言えます。

まとめ

RAGとファインチューニングは、それぞれ異なる強みを持つ手法です。事実ベースの情報を扱うならRAG、特定のトーンやスタイルを学習させるならファインチューニングが適していると言えます。
また、それぞれを使い分けるだけでなく組み合わせることも可能で、まずRAGで外部知識を取り入れたプロトタイプを作成し、その後特定の領域においてファインチューニングを行うことで、より精度の高いモデルを目指すといったアプローチが考えられます。
どちらが優れているかという観点で見るのではなく、ユースケースに適した手法はどれか？という風に考えた方が良いということですね。