Qu'est-ce qu'un LLM ?

Les grands modèles de langage (Gemini, Claude, GPT et d'autres) sont le moteur des assistants IA actuels. Entraînés sur de grandes quantités de texte, ils comprennent une question formulée librement, dans plusieurs langues, et rédigent une réponse claire. Ils reposent sur un type de réseau de neurones appelé « transformer », décrit en 2017 par des chercheurs de Google dans l'article Attention Is All You Need.

Ce qu'un LLM sait faire

Comprendre une question mal formulée. Fautes, abréviations, phrases incomplètes : il retrouve l'intention
Rédiger dans la langue du visiteur. Il lit un document en français et répond en néerlandais ou en anglais
Résumer et reformuler. Il condense une conversation pour l'équipe ou adapte un texte au ton demandé
Suivre des consignes. Rôle, ton, sujets interdits : un LLM respecte bien des instructions claires, sans que ce soit une garantie absolue

Ses deux limites

Il ne connaît de façon fiable que ce qui figurait dans ses textes d'entraînement, et pas les tarifs ou les procédures à jour d'une entreprise : on les lui fournit au moment de chaque question, par RAG. Et il peut produire une réponse fausse mais convaincante, une hallucination, quand l'information lui manque. Ces deux limites expliquent pourquoi un assistant d'entreprise ne se résume jamais à « un LLM branché sur un site ».

Comment choisir un modèle

Pour un assistant d'entreprise, le meilleur modèle n'est pas forcément le plus puissant. Les critères utiles sont la qualité des réponses dans vos langues, sur vos documents ; le coût par conversation ; la vitesse de réponse ; et les conditions de traitement des données. Le choix se fait sur des essais avec de vraies questions, et peut évoluer avec le temps ; il faut alors refaire les essais.

LLM, IA générative, assistant : les différences

L'IA générative désigne les modèles qui produisent du texte, des images ou du son ; le LLM en est la branche textuelle ; l'assistant est le produit construit autour, avec ses documents, ses consignes, ses canaux et l'équipe qui reprend la main.

KernChat choisit, lors de la mise en place, le modèle qui convient à la connaissance de chaque organisation ; les conversations et les documents sont stockés dans l'Union européenne, et les messages ne sont transmis au fournisseur du modèle que le temps de générer la réponse (voir comment ça marche).

Questions fréquentes

Un LLM connaît-il les informations de mon entreprise ?

Pas de façon fiable. Il connaît ce qui figurait dans ses textes d'entraînement, pas vos procédures ni vos prix à jour. Pour qu'il réponde sur votre entreprise, on lui fournit vos documents au moment de chaque question, selon la méthode du RAG.

Un LLM et un assistant IA, est-ce la même chose ?

Non. Le LLM est le moteur qui comprend et rédige ; l'assistant IA l'entoure d'une mission, de documents, de consignes, de canaux et d'une équipe qui reprend la main. Le même assistant peut changer de modèle en gardant ses documents et ses consignes, mais ses réponses doivent alors être revérifiées.