Artificiële intelligentie omvat veel technieken: een afbeelding herkennen, fraude opsporen, een product aanbevelen, een vraag voorspellen. Generatieve AI is er een bijzondere tak van. Ze maakt nieuwe inhoud, tekst, beelden, geluid, video of code, op basis van een vraag in gewone taal. Gespreksassistenten zoals ChatGPT, Gemini of Claude zijn er de bekendste voorbeelden van.
Waar generatieve AI vandaan komt
Generatieve technieken bestaan al lang, maar drie stappen maakten grootschalig gebruik mogelijk:
- 2017: onderzoekers van Google publiceren "Attention Is All You Need", dat de Transformer-architectuur beschrijft. Ze laat toe modellen efficiënt te trainen op enorme hoeveelheden tekst en vormt de basis van de meeste huidige taalmodellen
- 2020: OpenAI stelt GPT-3 voor, een model dat over bijna elk onderwerp samenhangende teksten kan schrijven op basis van enkele regels instructie
- 30 november 2022: OpenAI lanceert ChatGPT, dat die mogelijkheden voor iedereen toegankelijk maakt in een gespreksinterface
Sindsdien bieden meerdere leveranciers concurrerende modellen aan, en de mogelijkheden groeien met elke generatie: langere teksten, meerdere talen, beelden en documenten lezen, tools gebruiken.
Hoe het werkt, in één zin
Een generatief tekstmodel voorspelt stukje per stukje het meest waarschijnlijke vervolg van een tekst, op basis van wat het tijdens de training leerde en van wat het op het moment van de vraag te lezen krijgt. Die stukjes heten tokens. Dat principe verklaart zowel de vlotheid van de antwoorden als hun grootste gebrek: een waarschijnlijke tekst is niet noodzakelijk een ware tekst.
Waar generatieve AI goed in is
- Een vrij geformuleerde vraag begrijpen, met haar fouten, omwegen en ondertonen
- Informatie herformuleren in een ander register, een andere lengte of een andere taal
- Samenvatten en structureren van een lang document of gesprek
- Een eerste versie schrijven: een e-mail, een productfiche, een standaardantwoord
- Informatie halen uit vrije tekst: een naam, een datum, een uitgedrukte behoefte
Waar ze slecht in is, of niet alleen
- De juistheid van een feit garanderen. Zonder betrouwbare bron kan een model met zekerheid verzinnen; men spreekt van hallucinatie
- Uw bedrijf kennen. Het weet niets van uw tarieven, openingsuren of voorwaarden, tenzij u ze aanlevert
- De actualiteit kennen. Zijn algemene kennis stopt bij de einddatum van zijn training
- Een bindende beslissing nemen. Een korting, een terugbetaling of een diagnose horen bij een persoon die er de verantwoordelijkheid voor draagt
Generatieve AI in een bedrijfsassistent
Een AI-assistent van een bedrijf gebruikt generatieve AI binnen een nauw kader. Hij krijgt een instructie die zijn rol en grenzen vastlegt, de documenten van de organisatie als bron van waarheid, en regels om aan het team over te dragen. Het model dient dan vooral om de vraag te begrijpen en een duidelijk antwoord te formuleren op basis van de documenten, eerder dan te putten uit zijn algemene kennis.
Dat kader verandert de aard van het risico. De vraag is niet meer "weet het model het?" maar "zeggen de documenten het juiste, en houdt het model zich eraan?". Daarom tellen de kwaliteit van de kennisbank, de bronvermelding en het nalezen van gesprekken meer dan de keuze van het nieuwste model.
Wat het Europese recht zegt
De Europese verordening over artificiële intelligentie, de AI Act, regelt generatieve AI op twee niveaus. Leveranciers van AI-modellen voor algemene doeleinden, zoals de ontwikkelaars van grote taalmodellen, hebben documentatie- en transparantieverplichtingen. Organisaties die een AI-systeem inzetten dat met het publiek in contact komt, moeten onder meer personen informeren dat ze met een AI interageren. Gegenereerde inhoud moet in sommige gevallen ook als zodanig herkenbaar zijn.
Persoonsgegevens die in gesprekken verwerkt worden, blijven onder de AVG vallen, zoals bij elke andere verwerking.
Generatieve AI en "klassieke" AI
Beide staan niet tegenover elkaar. Veel systemen combineren generatieve bouwstenen met oudere: zoeken op trefwoorden om een document te vinden, een vaste regel om een onderwerp te blokkeren, een classificatiemodel om een noodgeval op te sporen. Een goede assistent gebruikt generatieve AI waar ze iets toevoegt, begrijpen en formuleren, en deterministische mechanismen waar voorspelbaarheid telt.
Generatieve AI in KernChat
KernChat gebruikt generatieve modellen van de markt (Google Gemini, Anthropic Claude of OpenAI) om de vragen van bezoekers te begrijpen en antwoorden te formuleren op basis van de documenten van de organisatie, in het Nederlands, Frans en Engels. Elk antwoord dat op een document steunt, citeert zijn bron, de bezoeker weet dat hij met een assistent praat, en voorbehouden onderwerpen gaan naar het team.