Ingénierie
Co-publié avec CloudflareCette voiture est-elle connectable ?
Un LLM spécialisé, hébergé à l'edge, pour l'éligibilité à la connectivité
Par l'équipe Ingénierie Linkbycar, avec Cloudflare
English · Français
Avant qu'un service de véhicule connecté puisse fonctionner, nous devons d'abord répondre à une question trompeusement difficile : ce véhicule précis est-il réellement éligible à la connectivité ? Chez Linkbycar, nous y répondons de nombreuses fois par jour, avec un petit modèle de langage spécialisé qui s'exécute entièrement sur le réseau de Cloudflare. Voici comment il fonctionne, et pourquoi nous l'avons construit ainsi.
L'éligibilité est une cible mouvante
L'éligibilité à la connectivité n'est pas un fait unique. C'est l'intersection de plusieurs : marque, modèle, finition, année-modèle, marché, génération du matériel embarqué, protocole télématique, et le support opérateur dans ce pays. Chaque constructeur publie cela différemment, dans des formats et un vocabulaire différents, et le révise à chaque nouvelle variante. Une voiture connectable dans un marché peut ne pas l'être dans un autre. Un restylage de mi-carrière peut changer la génération du matériel sans changer le nom du modèle.
Pourquoi les règles écrites à la main ne passent pas à l'échelle
L'approche évidente est un moteur de règles : un arbre de décision sur tous ces attributs. Nous en avons construit un. Il fonctionne, jusqu'à ce qu'il ne fonctionne plus. Chaque constructeur, marché et année-modèle ajoute des branches. L'arbre devient des milliers de conditions fragiles que seules quelques personnes comprennent. Chaque nouvelle variante est une modification de code et un déploiement. Le coût de maintenance croît plus vite que la couverture.
Notre approche : un petit modèle spécialisé
Plutôt que d'encoder les règles à la main, nous laissons un modèle les apprendre. Nous avons construit un modèle de langage spécialisé sur une seule tâche : déterminer l'éligibilité à la connectivité à partir de données constructeurs hétérogènes. Deux choix de conception portent tout le système.
D'abord, il est spécialisé, pas généraliste. Nous n'avons pas pris un grand modèle généraliste. Nous avons pris un modèle de base open-weight et l'avons affiné avec un adaptateur LoRA sur notre propre corpus d'éligibilité. Le résultat est petit et focalisé. Il fait une chose, et la fait bien.
Ensuite, il est auto-hébergé chez Cloudflare. Le modèle s'exécute sur Cloudflare Workers AI : une inférence GPU serverless qui tourne à l'edge, près de la requête. L'AI Router de Cloudflare est en amont. C'est un point de contrôle unique. Il route entre le modèle spécialisé et des solutions de repli, et il nous permet de gérer le coût, la latence et la version du modèle sans toucher au code applicatif.
Le pipeline de données
Un modèle spécialisé ne vaut que par le corpus qui le nourrit. Nous normalisons les flux constructeurs en une représentation cohérente du véhicule et de son verdict d'éligibilité. Ce corpus normalisé est ce sur quoi nous affinons. Quand un constructeur change sa façon de décrire une variante, nous étendons le corpus et réentraînons l'adaptateur. Nous ne réécrivons pas un arbre de décision.
C'est le point qui compte le plus pour nous. Le modèle reste à l'intérieur du réseau de Cloudflare. Nous n'envoyons jamais de données à un fournisseur de LLM tiers. Comme le modèle de base est open-weight et l'adaptateur est le nôtre, tout le chemin d'inférence est sous notre contrôle et dans un seul périmètre. La confidentialité n'est pas une promesse contractuelle. C'est une propriété de l'endroit où le calcul s'exécute.
Pourquoi c'est important
Confidentialité par l'architecture
Le modèle est open-weight, avec notre propre adaptateur, hébergé chez Cloudflare. Nous n'appelons aucun LLM tiers. Les données ne quittent pas le périmètre.
Ultra-rapide à l'edge
Le modèle est petit et spécialisé. Il s'exécute près de la requête. Il est assez rapide pour tenir dans le chemin critique de chaque vérification d'éligibilité.
Coût maîtrisé
L'inférence est serverless. Le routage est en amont. Aucune flotte GPU inactive à payer.
Résilient au changement
Quand un constructeur sort une nouvelle variante, nous réentraînons un adaptateur. Nous ne réécrivons pas un moteur de règles.
Pourquoi le spécialisé l'emporte ici
Un grand modèle généraliste peut aussi répondre aux questions d'éligibilité. Il est aussi plus lent, plus coûteux par appel, et plus difficile à garder dans un périmètre de données. Pour une décision qui se trouve dans le chemin critique de chaque requête de service connecté, la latence et le coût s'accumulent vite. Un petit modèle, entraîné sur nos propres données, est assez rapide pour tourner en ligne, assez peu cher pour tourner à grande échelle, et assez petit pour être hébergé là où nos données doivent rester. Le compromis, c'est le périmètre : il fait un seul travail. C'est exactement ce que nous voulons.
Premiers résultats
Les premiers signaux en production sont encourageants. Le modèle spécialisé retrouve les verdicts de notre ancien moteur de règles sur les cas connus, et généralise à des variantes que les règles ne couvraient pas, à une latence qui le garde en ligne. Les chiffres précis de latence et de coût suivront une fois le pilote stabilisé, et nous mettrons cet article à jour avec les mesures.
La suite
Nous élargissons le corpus à davantage de constructeurs et de marchés, et nous utilisons l'AI Router pour tester de nouvelles versions d'adaptateur en toute sécurité derrière le même point d'accès. L'objectif à plus long terme est d'appliquer le même schéma à d'autres décisions d'intelligence véhicule qui vivent aujourd'hui dans des règles fragiles.
Périmètre
Cet article porte sur l'éligibilité à la connectivité. Il garde délibérément les identifiants véhicule bruts hors du modèle.
Co-publié
Cet article est publié conjointement avec Cloudflare. Il décrit un système construit sur Cloudflare Workers AI et l'AI Router, exécutant des modèles open-weight que Linkbycar héberge et affine.
Demander une démo
Voyez la plateforme en trente minutes
Envoyez-nous vos plaques ou vos numéros de série (VIN). Nous vous répondons véhicule par véhicule : lesquels sont compatibles avec les données constructeur, lesquels ont besoin d'un boîtier, et quelles données chacun remonte.
Trente minutes avec notre équipe
Nous vous montrons la plateforme en direct et répondons à vos questions. Envoyez-nous vos plaques : nous vous disons ce que chaque véhicule peut remonter.
Rien à poser sur les véhicules compatibles
Les véhicules compatibles s'activent à distance.* Pas de passage en atelier, pas de pose, pas d'immobilisation.
Sans engagement
Vous repartez avec la réponse véhicule par véhicule, que vous alliez plus loin avec nous ou non.
* Le délai d'activation dépend du constructeur et peut aller jusqu'à 48 heures.
Demande reçue.
Nous revenons vers vous sous 48 heures pour organiser la démo. Envoyez-nous vos plaques ou vos VIN : nous vous disons ce que chaque véhicule peut remonter. En cas d'urgence, répondez à l'e-mail de confirmation : une personne le lit.