Un modèle de langage arrive entraîné sur une immense quantité de textes généraux. Le fine-tuning, ou affinage en français, consiste à poursuivre cet entraînement sur un ensemble d'exemples choisis, pour modifier durablement son comportement : adopter un style, respecter un format, maîtriser un vocabulaire spécialisé ou mieux réussir une tâche précise.
Comment ça se passe
Le principe est simple, la mise en œuvre l'est moins. On prépare des centaines ou des milliers d'exemples de la forme « voici une demande, voici la réponse attendue ». On lance un entraînement qui ajuste une partie des paramètres du modèle pour qu'il reproduise ces réponses. On obtient une nouvelle version du modèle, qu'on évalue sur des exemples qu'il n'a pas vus, puis qu'on met en service.
Plusieurs fournisseurs proposent ce service pour certains de leurs modèles, et des modèles ouverts peuvent être affinés sur ses propres serveurs. Des techniques plus légères, comme LoRA, publiée en 2021 par une équipe de Microsoft, n'ajustent qu'une petite partie des paramètres et rendent l'opération moins coûteuse.
Ce que le fine-tuning fait bien
- Imposer un style ou un format : un ton de marque très particulier, une structure de réponse toujours identique, un format de données précis
- Spécialiser une tâche répétitive : classer des demandes, extraire des champs d'un document, résumer selon un modèle fixe
- Réduire la longueur des consignes : un comportement appris n'a plus besoin d'être décrit dans le prompt à chaque question
- Utiliser un modèle plus petit : un modèle léger affiné sur une tâche peut égaler un modèle plus puissant non affiné, pour un coût d'usage moindre
Ce que le fine-tuning fait mal
Le fine-tuning est souvent présenté à tort comme la manière d'apprendre au modèle les informations d'une entreprise. C'est rarement le bon outil pour cela :
- Les faits changent. Un tarif, un horaire ou une condition modifiés obligeraient à refaire l'entraînement. Avec une base de connaissances, il suffit de corriger le document
- Les faits appris ne se citent pas. Un modèle affiné ne sait pas dire d'où vient une information. Un assistant qui lit vos documents peut afficher sa source
- Les faits appris se mélangent. L'entraînement n'empêche pas les hallucinations ; il peut même rendre le modèle plus sûr de lui sur des détails mal retenus
- Le coût de maintenance est élevé. Chaque nouvelle version du modèle de base, et elles arrivent plusieurs fois par an, demande de refaire l'affinage et les essais
Fine-tuning ou RAG ?
Les deux approches répondent à des besoins différents et peuvent se combiner :
| Besoin | Approche la plus adaptée |
|---|---|
| Répondre à partir de documents qui changent | RAG ou documents transmis en contexte |
| Citer la source de chaque réponse | RAG ou documents transmis en contexte |
| Adopter un ton ou un format très particulier | Consigne détaillée, puis fine-tuning si elle ne suffit pas |
| Réaliser une tâche répétitive à grand volume | Fine-tuning d'un modèle plus petit |
| Maîtriser un jargon très spécialisé | Lexique dans les documents, puis fine-tuning si nécessaire |
Pour un assistant qui répond aux visiteurs du site d'une PME, l'ordre raisonnable est presque toujours le même : d'abord une bonne consigne, ensuite de bons documents, puis des essais. Le fine-tuning n'intervient qu'en dernier recours, pour un besoin précis que les deux premières étapes ne couvrent pas.
Les questions à poser avant d'envisager un affinage
- Le problème vient-il du modèle ou des documents ? La plupart des erreurs d'un assistant viennent d'un document flou, périmé ou absent
- Une consigne plus précise suffirait-elle ? Quelques exemples dans la consigne, appelés exemples en contexte, obtiennent souvent le même effet sans entraînement
- Disposez-vous d'exemples de qualité en nombre suffisant ? Des exemples incohérents produisent un modèle incohérent
- Qui maintiendra le modèle affiné ? Et que se passera-t-il quand le fournisseur retirera le modèle de base
Fine-tuning et données personnelles
Les exemples d'entraînement finissent, d'une certaine manière, dans le modèle. Si des conversations réelles servent d'exemples, les données personnelles qu'elles contiennent doivent être retirées ou anonymisées, et cette finalité doit avoir sa propre base légale au sens du RGPD. C'est l'une des raisons pour lesquelles la question « mes conversations servent-elles à entraîner un modèle ? » mérite une réponse écrite de chaque fournisseur.
Et dans KernChat ?
KernChat n'affine pas de modèle sur les données de ses clients. Les assistants utilisent des modèles du marché (Google Gemini, Anthropic Claude ou OpenAI), orientés par une mission rédigée avec l'organisation et nourris par ses espaces de connaissance. Les messages sont transmis au fournisseur du modèle pour générer la réponse ; KERN-IT ne les utilise pas pour entraîner un modèle. Une connaissance se corrige en modifiant sa source, et la correction s'applique dès la question suivante.