Mistral AI a lancé Timestral, sa première famille de modèles de base pour les séries chronologiques. Timestral est un ensemble de 4 modèles de prévision « zero-shot » développés par Mistral AI, dont la taille varie de 5 millions à 209 millions de paramètres. Le plus grand checkpoint se classe en tête des modèles pré-entraînés « zero-shot » sur les benchmarks GIFT-Eval, TIME et fev-bench. Et ce, sans recourir à un GPU lors de l’inférence.

Mistral AI est une entreprise française spécialisée dans l'intelligence artificielle (IA) dont le siège social est situé à Paris. Fondée en 2023, elle développe des grands modèles de langage (LLM). En septembre 2026, la valorisation de l'entreprise s'élevait à 24,7 milliards de dollars américains, soit la plus élevée parmi les entreprises européennes du secteur de l'IA. En août 2026, son plus grand modèle accessible au public est Mistral Large 3, lancé en décembre 2025 : il s’agit d’un modèle de type « mixture of experts » comptant 675 milliards de paramètres, dont 41 sont actifs. Mistral a lancé « Le Chat », son chatbot, en février 2024 ; celui-ci a été rebaptisé « Mistral Vibe » en 2026.

Récemment, Mistral AI a lancé Timestral, sa première famille de modèles de base pour les séries chronologiques. Timestral est un ensemble de 4 modèles de prévision « zero-shot » développés par Mistral AI, dont la taille varie de 5 millions à 209 millions de paramètres. Le plus grand checkpoint se classe en tête des modèles pré-entraînés « zero-shot » sur les benchmarks GIFT-Eval, TIME et fev-bench. Et ce, sans recourir à un GPU lors de l’inférence. Pour les développeurs, ce modèle de base de séries chronologiques Timestral permet d’effectuer des prévisions probabilistes sur des processeurs de serveurs standard, avec des poids et un code d’inférence ouverts.

Timestral est un modèle de base pour les séries chronologiques (TSFM). Il est pré-entraîné sur un corpus vaste et diversifié, puis effectue des prévisions « zero-shot » sur des données qu’il n’a jamais vues. Les outils classiques comme ARIMA ajustent une série à la fois. Les modèles profonds comme PatchTST s’entraînent généralement à partir de zéro sur chaque ensemble de données. Timestral, quant à lui, transfère des modèles d’un domaine à l’autre. Chaque modèle produit 21 quantiles par pas de temps. Il prévoit conjointement des cibles multivariées. Il accepte des covariables issues uniquement du passé, du futur connu et des covariables catégorielles.

Timestral est un transformateur causal basé sur des « patches », doté d’une attention temporelle et d’une attention sur les variables. Le modèle de 209 millions de paramètres utilise 24 couches et une dimension d’embedding de 768. Chaque « patch » couvre 32 pas de temps. Un seul passage en avant permet de prévoir jusqu’à 1 024 pas. Les horizons plus longs sont traités bloc par bloc, la médiane de chaque bloc étant réinjectée comme contexte.

L’équipe de Mistral AI a testé un processeur de serveur standard à 8 threads. La tâche consistait à établir des prévisions à un jour à partir de trois semaines d’historique de 15 minutes. Le modèle de 5 M a pris 10 ms et celui de 209 M, 140 ms. Le modèle de 28 M est 5 fois plus rapide que celui de 209 M. Le modèle de 123 M se situe à moins de 0,2 % du score du modèle de 209 M, avec une latence réduite aux trois quarts.

Voici l'annonce de Mistral AI :

Annonce de Timestral

Aujourd’hui, nous lançons Timestral, notre première famille de modèles de base pour séries chronologiques. Notre plus grand modèle, qui ne compte que 209 millions de paramètres, se classe premier sur les trois principaux benchmarks publics du domaine, GIFT-Eval, TIME et fev-bench, surpassant l’état de l’art précédent avec seulement les deux tiers des paramètres du modèle.

Timestral fournit des prévisions probabilistes et multivariées et prend en charge les covariables historiques et celles dont l’avenir est connu. Notre famille de modèles se situe sur le front de Pareto, qui met en relation la précision des prévisions et la taille du modèle, offrant des performances de pointe quelle que soit la taille. Les résultats ont été soumis aux classements GIFT-Eval et TIME.

Modèles de base pour séries chronologiques (TSFM)

Les séries chronologiques constituent l’un des types de données les plus courants en entreprise, qu’il s’agisse de télémétrie de capteurs ou de métriques d’observabilité. Les prévisions qui en découlent guident les décisions en matière de planification des capacités, d’énergie, de chaînes d’approvisionnement, de risques et de maintenance.

Les usines industrielles prévoient les données des capteurs de processus en fonction du calendrier de production, détectent les dérives des équipements avant qu’ils ne tombent en panne et planifient la capacité et les pièces de rechange pour des milliers d’actifs. Les équipes financières prévoient les flux, les volumes et la volatilité afin d’orienter les positions, les opérations de couverture et la gestion de trésorerie sur des milliers de comptes.

Les modèles classiques tels que l’ARIMA et la régression linéaire restent des outils bien établis pour la prévision des séries chronologiques. Ces modèles sont généralement ajustés à une seule série et apprennent uniquement à partir de l’historique de cette série.

Les modèles d’apprentissage profond tels que PatchTST offrent la capacité d’apprendre des motifs non linéaires à partir de nombreuses séries corrélées, mais ils sont généralement entraînés à partir de zéro sur chaque ensemble de données ; ce qu’ils apprennent ne s’applique donc pas à de nouveaux domaines.

Les modèles de base pour séries chronologiques appliquent l’approche du pré-entraînement aux séries chronologiques. Entraîné sur un corpus vaste et diversifié, notre modèle apprend des motifs transférables d’une série à l’autre, permettant des prévisions « zero-shot » sur des données qu’il n’a jamais vues, même dans des domaines où les données sont rares.

Résultats des tests comparatifs

Nous avons évalué Timestral sur les trois principaux benchmarks publics de prévision : GIFT-Eval, TIME et fev-bench. Parmi les modèles pré-entraînés « zero-shot », il se classe premier pour l’ensemble des cinq indicateurs. Ces résultats proviennent d’un seul point de contrôle, sans assemblage.

Une famille de modèles optimisés pour chaque spécification

Timestral a été optimisé sous la forme d’une famille de quatre modèles : 5 millions, 28 millions, 123 millions et 209 millions de paramètres. Les modèles les plus volumineux améliorent les performances de prévision, tandis que les plus petits sont plus rapides et moins coûteux. Les quatre modèles partagent la même architecture et la même méthode d’entraînement. Chaque taille se situe sur le front de Pareto de la précision par rapport à la taille du modèle : pour chaque taille de modèle, aucun modèle public n’offre de meilleures prévisions.

Score en fonction de la taille du modèle sur GIFT-Eval, TIME et fev-bench (exprimé sous la forme 1 − score de performance). Plus la valeur est faible, mieux c’est. Notre modèle 28M surpasse Chronos-2, environ quatre fois plus volumineux, sur GIFT-Eval et TIME. Notre modèle 209M surpasse TimesFM-3 et Falcon-2.0 avec moins de paramètres.

Timestral ne nécessite pas de GPU pour l’inférence. Sur un processeur de serveur standard à 8 threads, la prévision à un jour à partir de trois semaines d’historique de 15 minutes prend 10 ms avec le modèle de 5 millions de paramètres et 140 ms avec le modèle de 209 millions de paramètres. Les modèles plus petits sacrifient une partie de la précision au profit de la vitesse : le modèle 28M est cinq fois plus rapide que le modèle 209M, et le modèle 123M s'approche à moins de 0,2 % du score du modèle 209M avec les trois quarts de sa latence.

Principales contributions techniques

Plusieurs idées ont été combinées pour obtenir ces résultats. Chacune d'entre elles sera décrite en détail dans le rapport technique.

1. Prévision à horizon découplé. Les décodeurs causaux entraînés avec un masquage de patches contigus, comme dans Toto 2.0 et TimesFM-3, masquent les valeurs à prévoir, de sorte qu’elles apparaissent comme des valeurs manquantes et sont également perdues en tant que contexte pour les prévisions ultérieures. Notre approche, DHF, sépare les deux : l’historique complet reste dans la séquence, et les tokens de prévision appris lisent l’historique qui les précède. Chaque valeur observée sert ainsi à la fois de cible et de contexte, les lacunes réelles restent signalées comme manquantes, et les longueurs d’horizon d’apprentissage ainsi que l’augmentation des données manquantes peuvent être ajustées indépendamment l’une de l’autre.

2. Attention tenant compte des covariables. À chaque série d’entrée est attribué un rôle : variable cible, covariable passée uniquement ou covariable future connue. Les covariables futures connues sont visibles sur l’ensemble de la fenêtre tandis que les cibles restent causales, et l’information ne circule que des covariables vers les cibles. Timestral peut donc utiliser un calendrier des jours fériés ou des prévisions météorologiques sans que l’avenir d’une cible ne soit révélé dans sa propre prévision.

3. Données synthétiques prioritaires. La majorité des données d’entraînement était synthétique. Nous avons d’abord généré des processus univariés présentant une dynamique temporelle cohérente, incluant des...

La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.