開発ログ

モデル・特徴量を比較して採用候補を決める

30秒でわかる概要

今回なにをした?

RF019で選定したRANDOM_FOREST_V1をRF020の結果に従い未校正で評価した。さらに、市場確率のみの構成と複勝オッズレンジを加えた構成を同一時系列Holdoutで比較したです。

なぜ必要?

RF019でモデル候補、RF020で校正方式は選べたが、追加特徴量を含む最終構成は未決定だった。

何が変わった?

RANDOM_FOREST_V1:UNCALIBRATEDについて、同一Holdout上の特徴量アブレーション結果に基づき最終昇格構成を決定した。

現在の状態

検証完了です。確認できていないことは、確認済みとして扱いません。

詳細

Evidence Record

今回確定したこと

定義した境界・成果

  • RF019で選定したRANDOM_FOREST_V1をRF020の結果に従い未校正で評価した
  • 市場確率のみの構成と複勝オッズレンジを加えた構成を同一時系列Holdoutで比較した
  • Brier Scoreを主指標としてLog Loss・AUC・ECE・速度・市場相対指標も記録した
  • 追加特徴量が改善しない場合は複雑化を拒否するPromotion Ruleで最終構成を決定した

許可されること / できること

  • 同一モデルで特徴量構成だけを変えて比較できる(Model/Feature Ablation):DEFINED
  • 改善が確認できた構成だけを次段階へ送れる(Promotion Decision):PROMOTE_CANDIDATE_FEATURE_SET

安全境界・防止策

禁止されること / 防止策

  • ランダム行分割を使用しない(Random Split Leakage Prevention):PASS
  • Brier改善がない追加特徴量は昇格させない(Complexity Inflation Prevention):PASS

実装・契約根拠

  • 契約・実装識別子(ABLATION_RESULTS_V1)
  • 契約・実装識別子(MODEL_PROMOTION_DECISION_V1)

検証結果

  • 同一レースが分割を跨がない時系列Holdoutを維持した(Time-Ordered Holdout):PASS
  • 市場確率のみと追加特徴量ありを同一条件で比較した(Feature Ablation):PASS
  • Brier改善がない複雑化を拒否する規則で昇格構成を決定した(Promotion Rule):PASS

未達・対象外

  • 市場相対EVは記述的指標であり実現利益を表さない
  • 今回の昇格判断は現在のHoldout範囲に基づく
  • DBはREAD_ONLYで評価し書き換えない

次工程

次はRF_DEV_068_RESEARCH_DATASET_BUILD_V1で、昇格構成を再利用可能なResearch Dataset実装へ接続する。

Evidence Stage

IMPLEMENTATION_COMPLETE_VALIDATED

内部管理情報

Task ID: RF_DEV_021_MODEL_FEATURE_ABLATION_AND_PROMOTION_V1

全体ロードマップを見る →

← 開発ログへ戻る

掲載内容は、その時点の開発・検証記録です。将来の利益や的中を保証するものではありません。