RAG・Prompt・ファインチューニングは何を変える?
RAGは検索した情報を渡し、Promptは答え方を指示し、ファインチューニングは学習例でモデルのパラメータを調整します。Googleの機械学習教材も指示と微調整を分けています。お店なら価格変更はナレッジ、要点から答えてほしいならPromptを変更します。この二つに微調整は必要なく、特殊な反復タスクなら別途検討します。
Google Machine Learning — Fine-tuning and prompt engineering ↗
変わる情報はナレッジで更新する
ChatAsynqではPromptの固定ルールを毎回の会話に含め、役割・口調・回答範囲を設定します。ナレッジは会話時に関連性を照合し、該当する価格・仕様・配送条件を取り込みます。テキスト・画像・PDFを追加してLearnの完了を待ち、Agentでページを選択。この学習は、検索できる内容を準備する工程です。
間違った点から直し方を選ぶ
送料無料条件がなければ追加し、長すぎる回答なら指示を変え、割引承認は人へ回します。微調整には別途、学習と評価の資料が必要です。日常業務では、まず今使う情報とルールを整え、何が繰り返し残るかを見ましょう。
事実・指示・振る舞いのどれを変えるか整理する
三つの例で分けられます。「送料を変えたのに旧料金で答える」ならナレッジ、「正しいが毎回長すぎる」なら Prompt を直します。「多くの例から特定の作業方法をモデルに学ばせたい」場合に、微調整をさらに検討します。改善したい問題を先に特定すると、方法を選びやすくなります。
変動する情報には更新方法が必要
価格、期間、仕様には確認者、変更場所、検証方法が必要です。ChatAsynqでの日常の更新では、資料ページ、学習処理、Agentの選択を確認します。重複する版を整理し、更新後に旧質問と新しい例外を試します。
微調整の前に評価資料を確認する
技術担当に微調整を相談するなら、代表質問、望む回答、よくある誤りを用意します。「人間らしく」より「先に要点を答え、予約条件を一文添える」の方が具体的です。調整に使わない質問も評価用に残し、新しい聞き方で確認。不要な個人情報を除き、予定する用途で使える例を選びましょう。
一か所変えて回答を比べる
足りない商品情報を一つ補うか、回答の指示を一つ変え、同じ質問で比べます。予約商品の日数を追加したなら、予約品と在庫品の両方の発送時期を聞きます。まだ間違う場合は商品名、資料ページ、前後の会話を確認します。一か所ずつ変えると、役立った調整が分かります。
実際に設定する
お店によく届く質問で、Agent の設定を始めましょう。