Datasets:

---

YUGOROU

/

TeenEmo-Scripts

like 0

問題

generate_pref.py の process_single_prompt が chosen/rejected に
<synth> タグ込みの生テキストを格納していた。
DPO学習時にモデルが推論時に <synth> を出力するよう誤学習する。

根本原因

passed_texts = [p[0] for p in passed_pairs] が生テキストを使用。
SFT側は _build_assistant_content(fr) で整形済みテキストを使っているのと不一致。

修正 (generate_pref.py)

• _build_assistant_content を generate_pref.py 内に定義
• passed_texts を [_build_assistant_content(p[1]) for p in passed_pairs] に変更
• フィルタ通過サンプルは <synth> 除去・<think> タグ統一済みテキストで格納
• ハードネガティブ（生テキスト）はそのまま維持

影響

generate_pref.py を再実行する必要があります。