Grote taalmodellen (Gemini, Claude, GPT en andere) zijn de motor van de huidige AI-assistenten. Ze zijn getraind op grote hoeveelheden tekst, begrijpen vrij geformuleerde vragen in meerdere talen en schrijven een helder antwoord. Ze steunen op een type neuraal netwerk dat “transformer” heet, in 2017 beschreven door onderzoekers van Google in het artikel Attention Is All You Need.
Wat een LLM kan
- Een slecht geformuleerde vraag begrijpen. Fouten, afkortingen, onvolledige zinnen: het achterhaalt de bedoeling
- Schrijven in de taal van de bezoeker. Het leest een document in het Frans en antwoordt in het Nederlands of Engels
- Samenvatten en herformuleren. Het vat een gesprek samen voor het team of past een tekst aan de gevraagde toon aan
- Instructies volgen. Rol, toon, verboden onderwerpen: een LLM volgt duidelijke instructies goed, al is dat geen absolute garantie
De twee beperkingen
Het kent alleen betrouwbaar wat in zijn trainingsteksten stond, niet de actuele tarieven of procedures van een bedrijf: die worden bij elke vraag aangeleverd via RAG. En als informatie ontbreekt, kan het een fout maar overtuigend antwoord geven, een hallucinatie. Die twee beperkingen verklaren waarom een bedrijfsassistent nooit zomaar “een LLM dat aan een website hangt” is.
Hoe u een model kiest
Voor een bedrijfsassistent is het beste model niet noodzakelijk het krachtigste. Nuttige criteria zijn de kwaliteit van de antwoorden in uw talen en op basis van uw documenten, de kosten per gesprek, de antwoordsnelheid en de voorwaarden voor gegevensverwerking. De keuze gebeurt op basis van tests met echte vragen en kan na verloop van tijd veranderen; dan moeten de tests opnieuw worden uitgevoerd.
LLM, generatieve AI, assistent: de verschillen
Generatieve AI duidt op modellen die tekst, beelden of geluid produceren; het LLM is de tekstuele tak daarvan; de assistent is het product errond, met documenten, instructies, kanalen en het team dat overneemt.
Bij de opstart kiest KernChat het model dat past bij de kennis van elke organisatie; de gesprekken en documenten worden in de Europese Unie opgeslagen en de berichten worden alleen aan de modelleverancier doorgegeven zolang dat nodig is om het antwoord te genereren (bekijk hoe het werkt).