開発ログ

候補モデル群を比較評価する

30秒でわかる概要

今回なにをした?

市場確率これまでの基準と3種類の候補モデルを同じ時系列Holdoutで比較した。さらに、同一レースが学習側とHoldout側にまたがらない分割を固定しました。

なぜ必要?

RF018で特徴量セットと比較基盤は整ったが、どのモデルファミリーが同じ条件でBaselineを上回るかは未評価だった。

何が変わった?

RANDOM_FOREST_V1 を次の確率校正・不確実性評価へ進める候補として選定した。

現在の状態

検証完了です。確認できていないことは、確認済みとして扱いません。

詳細

Evidence Record

今回確定したこと

定義した境界・成果

  • 市場確率Baselineと3種類の候補モデルを同じ時系列Holdoutで比較した
  • 同一レースが学習側とHoldout側にまたがらない分割を固定した
  • Brier Scoreを主指標としてLog Loss・AUC・推論時間・複雑度・市場相対EVも記録した
  • 最終採用ではなくRF020へ進める候補を選定した

許可されること / できること

  • 複数モデルを同一条件で比較できる(Model Family Comparison):DEFINED
  • 性能・速度・複雑度・市場相対指標を記録できる(Candidate Scorecard):DEFINED

安全境界・防止策

禁止されること / 防止策

  • ランダム行分割を防ぐ(Random Split Leakage Prevention):PASS
  • 結果情報を予測入力に使わない(Outcome Feature Prevention):PASS
  • RF019では最終採用を確定しない(Premature Promotion Prevention):PASS

実装・契約根拠

  • 契約・実装識別子(MODEL_FAMILY_COMPARISON_V1)
  • 契約・実装識別子(MODEL_CANDIDATE_SCORECARD_V1)

検証結果

  • race_date順で分割し同一レースの跨ぎがないことを確認(Time-Ordered Holdout):PASS
  • 時系列分割・Brier評価・Outcome特徴量禁止を確認(Targeted Tests):PASS
  • READ_ONLY実データでBaselineと3候補を比較(Real Data Model Comparison):PASS

未達・対象外

  • 市場相対EVはPRE15複勝オッズ下限を使った記述的指標で実現利益を表さない
  • 確率校正・不確実性評価はRF020で行う
  • 最終モデル昇格はRF021まで確定しない
  • DBはREAD_ONLYで評価し書き換えない

次工程

次はRF_DEV_020で RANDOM_FOREST_V1 を含む候補の確率校正と不確実性を評価する。

Evidence Stage

IMPLEMENTATION_COMPLETE_VALIDATED

内部管理情報

Task ID: RF_DEV_019_MODEL_FAMILY_CANDIDATE_EVALUATION_V1

全体ロードマップを見る →

← 開発ログへ戻る

掲載内容は、その時点の開発・検証記録です。将来の利益や的中を保証するものではありません。