👩‍💼 Alexia

XGBoost est l'implémentation qui a rendu le gradient boosting populaire dans les compétitions de science des données. Sa particularité tient à la régularisation : il pénalise explicitement le nombre de feuilles et l'amplitude des valeurs qu'elles portent, ce qui limite la tendance à apprendre le bruit plutôt que le signal.

La méthode par histogrammes range les valeurs continues en 256 paniers avant de chercher où couper. On perd un peu de finesse, on gagne un ordre de grandeur en vitesse — et sur des variables aussi bruitées qu'une cote ou un poids, la finesse perdue ne manque à personne.

Ce que les dix ont en commun

Tous apprennent sur le même corpus : 147 095 courses et 1 824 611 partants depuis 2015, décrits par 38 variables — cote de référence, forme récente lue dans la musique, taux de réussite du jockey et de l'entraîneur, allocation, distance, corde, poids, déferrage, âge, sexe, jours depuis la dernière sortie, et le reste.

Le jeu d'entraînement complet — 1,8 million de partants sur 38 variables — occupe environ 550 Mo une fois chargé en mémoire, avant l'empreinte des structures de calcul. C'est ce qui fixe le besoin réel : de la RAM, pas de la puissance brute.

L'entraînement tente d'abord la carte graphique (CUDA) et bascule seul sur le processeur si elle n'est pas disponible : le modèle obtenu est le même, seul le temps de calcul change. Les fichiers produits sont légers — de 1 à 4,6 Mo selon le modèle — et tiennent tous dans un dossier de quelques dizaines de mégaoctets.

La prédiction quotidienne, elle, ne demande aucun matériel particulier : charger les dix modèles et noter toutes les courses d'une journée prend quelques secondes sur un processeur ordinaire. Le coût du projet est dans la donnée et son historique, pas dans le calcul.

Les prédictions et les résultats vivent dans une base Postgres ; les campagnes d'évaluation sont rejouées dans un fichier analytique local de 347 Mo, sur disque SSD — la validation glissante relit des millions de lignes par passe et le débit disque devient le facteur limitant bien avant le processeur.

Ce que nous ne publions pas : la recette exacte d'entraînement et le détail de la construction des variables. Au pari mutuel, une sélection suivie par trop de monde fait s'effondrer sa propre cote — la preuve du sérieux est dans le journal des paris, pas dans la recette.