30秒概要
競馬AIで特徴量を増やしていくと、「以前の計算結果を再利用してよいか」「定義変更時に何を作り直すか」「途中停止した処理をどこから再開するか」が重要になります。
今回は、特徴量ストアの**版管理・キャッシュ再利用・元データ訂正時の無効化・途中再開・スキーマ進化**を実装・検証しました。
Task Evidenceでは6件を実際に確認し、6件すべてを判定、未解決は0件でした。
なぜ必要なのか
たとえば、ある特徴量の計算方法を変更したとします。
古い計算結果をそのまま再利用すると、名前は同じでも中身が異なる特徴量が混ざる可能性があります。
一方、定義が変わっていない特徴量は、同じmaterializationとして再利用できることを確認しました。
そこで、
- 同じ定義なら再利用する
- 定義が変わったら新しいversionとして扱う
- 元データが訂正されたら古いキャッシュを無効化する
という判断を仕組みとして持たせました。
途中停止からの再開
処理が途中で止まった場合は、checkpointから未完了batchのみを再開し、完了済みprefixを再実行しないことを確認しました。
スキーマ変更への対応
変更内容によって再利用可否も変わります。
列追加のような互換性を保てる変更と、型変更のようなrebuildが必要な変更を区別できることを確認しました。
検証結果
- 実測検証の完了状態：PASS
- 検証対象の確認範囲：PASS
- 未解決項目の確認：PASS
- 検証根拠の確認：PASS
Task Evidenceでは6件を確認し、全6件を判定、未解決0件でした。
現在の状態
特徴量の定義・schema・correction・checkpointを基準に、
**再利用する**
**作り直す**
**途中から再開する**
を判断できる土台が整いました。
制約
この工程で確認したのは特徴量ストアのライフサイクル管理です。
予測精度・回収率・収益性の改善は、このTask Evidenceからは主張しません。
次の工程
次はExperiment RegistryとFamily Governanceへ進みます。
特徴量だけでなく、「どの実験で何を変えたのか」「どの実験同士を比較できるのか」を管理し、実験そのものの再現性を高めていきます。