Suivi bayésien variationnel des variances dans un filtre de Kalman adaptatif

1. Le problème du réglage manuel des variances

Dans un modèle d'espace d'états, l'état latent $\theta_t$ évolue selon $\theta_t = \theta_{t-1} + w_t$, avec $w_t \sim \mathcal{N}(0, Q_t)$, et chaque observation est bruitée selon $y_t = x_t^\top \theta_t + v_t$, avec $v_t \sim \mathcal{N}(0, \sigma_t^2)$. Le comportement du filtre de Kalman dépend entièrement de ces deux variances : une variance de transition $Q_t$ trop faible rend le modèle incapable de suivre un vrai changement de régime, une variance trop élevée le rend instable au moindre bruit de mesure.

Fixer ces valeurs une fois pour toutes revient à parier sur un seul niveau de stabilité pour toute la durée de vie du modèle — un pari perdant dès que la dynamique réelle du système change dans le temps.

2. Traiter les variances comme des états latents

L'idée centrale consiste à reparamétrer les variances en log-échelle, $a_t = \log \sigma_t^2$ et $b_t = \log Q_t$, et à les traiter elles-mêmes comme des états latents suivant leur propre dynamique lente, estimés conjointement avec $\theta_t$ plutôt que fixés en amont. Le problème d'inférence devient alors l'estimation d'un posterior joint $p(\theta_t, a_t, b_t \mid y_{1:t})$ — un problème que le calcul exact rend rapidement intraitable, car la conjugaison gaussienne exacte du filtre de Kalman classique ne survit pas à l'ajout de ces variances latentes.

3. L'approximation en champ moyen

L'inférence variationnelle contourne ce problème en approchant le posterior joint, difficile à calculer, par un produit de distributions plus simples supposées indépendantes — l'approximation en champ moyen (mean-field) : $q(\theta, a) = q(\theta)\, q(a)$. Cette hypothèse d'indépendance est fausse en toute rigueur (le vrai posterior présente des corrélations entre $\theta$ et les variances latentes), mais elle rend le calcul tractable en le ramenant à une mise à jour alternée de chaque facteur, chacun conditionnellement gaussien grâce à la conjugaison préservée à l'intérieur de chaque bloc.

Le compromis est explicite : on perd la corrélation entre les paramètres et leurs variances (l'ellipse alignée sur les axes plutôt qu'inclinée, comme illustré ci-dessus), mais on gagne un algorithme de mise à jour séquentiel, peu coûteux, et exécutable en ligne à chaque nouvelle observation — exactement ce dont a besoin un système de prévision tournant en production.

Cette efficacité repose sur une propriété classique mais essentielle : le produit d'un prior gaussien et d'une vraisemblance gaussienne reste gaussien (auto-conjugaison), ce qui permet à chaque étape de mise à jour de rester une simple manipulation de moyennes et de variances, sans jamais recourir à un échantillonnage coûteux de type Monte Carlo.

Le résultat est un filtre qui règle lui-même sa propre réactivité : plus adaptatif lors d'un changement de régime détecté dans les résidus, plus stable une fois le nouveau régime absorbé — sans intervention manuelle sur les hyperparamètres de variance.