Je vraagt ChatGPT, Copilot, Gemini of Claude iets over een onderwerp waar je zelf weinig vanaf weet. Een belastingregel bijvoorbeeld, de betekenis van een medisch onderzoek of een cijfer dat je nodig hebt voor een presentatie.
Een paar seconden later staat er een uitgebreid antwoord. Het klinkt goed, met duidelijke uitleg en er staan wat bronnen bij.
Maar stel dat er één fout cijfer tussen staat. Of dat een genoemde bron helemaal niet bestaat. Zou je dat merken? Waarschijnlijk niet.
En dat is precies waarom de vraag of je AI kunt vertrouwen lastiger is dan hij op het eerste gezicht lijkt.
Het ene AI antwoord is het andere niet
Ik gebruik AI zelf steeds vaker. Een tekst samenvatten, ideeën verzamelen, een eerste opzet maken van een mail; daar is het heel erg handig voor. Het brengt structuur aan in een berg informatie.
Het wordt anders als ik AI vraag om informatie waar ik zelf weinig verstand van heb. Zoals aftrekposten bij mijn belastingaangifte, of een juridische regel waarop je een besluit baseert.
ik zou niet snel meteen mijn belastingaangifte aanpassen op wat AI me vertelt.
Waarom kan AI iets verzinnen?
Om dit te begrijpen, helpt het als ik eerst wat uitleg over hoe AI aan zijn antwoorden komt.
ChatGPT, Claude en vergelijkbare systemen werken met een groot taalmodel, een LLM, dat staat voor Large Language Model. Zo’n model is gebouwd op enorme hoeveelheden tekst en heeft geleerd welke woorden en zinnen waarschijnlijk op elkaar volgen. Het model is getraind over hele grote hoeveelheden tekst.
Daardoor zijn de modellen ook zo goed in taal. Ze kunnen uitleg geven, teksten schrijven informatie ordenen, en verbanden leggen.
Maar: het formuleert een antwoord op basis van patronen die het heeft geleerd.
En daar gaat het wel eens mis; twee onderzoeken worden door elkaar gehaald, een percentage verandert. En het kan ook dat er een boek wordt genoemd dat helemaal niet bestaat.
In de AI wereld noemen we dat hallucinatie. Het AI model hallucineert.
Het is vaak een klein verkeerd detail in een prima antwoord. En daarom is het erg lastig om te herkennen.
Wanneer werkt AI goed?
Voor veel dagelijkse taken is het risico van een fout klein.
Denk aan:
- een e-mail duidelijker maken;
- een lange tekst samenvatten;
- ideeën verzamelen;
- een eerste opzet voor een presentatie maken;
- informatie ordenen.
Als AI bij een brainstorm een minder goed idee geeft, is er weinig aan de hand. Je laat het idee gewoon liggen.
Bovendien kun je bij dit soort taken vaak zelf direct beoordelen of het resultaat bruikbaar is.
Je kan AI zien als een slimme stagiair die je helpt.
Wanneer moet je controleren?
Zodra een fout echte gevolgen kan hebben, is het belangrijk dat je het antwoord goed controleert. Bijvoorbeeld bij juridische informatie, financiële beslissingen, medische informatie of regels en beleid.
Maar ook bijvoorbeeld bij een cijfer dat je in een presentatie zet die je aan de directie moet geven. Als je gaat presenteren dat de omzet 18% is gestegen, dan moet dit ook wel echt kloppen.
Dit is de eenvoudige vuistregel:
| Risico | Voorbeelden | Wat doe je? |
|---|---|---|
| Laag | Samenvatten, herschrijven, brainstormen | Zelf beoordelen of het resultaat bruikbaar is |
| Middel | Adviezen, analyses, presentaties | Uitkomsten en belangrijke feiten controleren |
| Hoog | Juridische, financiële of medische informatie | Altijd controleren bij een betrouwbare oorspronkelijke bron |
De grens is natuurlijk niet altijd even helder. Een samenvatting van een belangrijk juridisch contract is iets anders dan een samenvatting van je eigen vergadernotulen.
Het gaat dus niet alleen om de taak. Het gaat vooral om wat er gebeurt als AI het fout heeft.
Een bron noemen is nog geen bron controleren
Er is nog iets om op te letten. AI kan bronnen noemen, maar dat betekent niet automatisch dat het antwoord daarmee betrouwbaar is.
Klik dus door als een bron belangrijk is. Bestaat het onderzoek daadwerkelijk? Staat in het artikel ook wat AI beweert? Is het cijfer nog actueel?
Voor belangrijke informatie ga ik het liefst nog één stap verder en zoek ik de oorspronkelijke bron op. Voor Nederlandse belastingregels is dat bijvoorbeeld de Belastingdienst, voor wetgeving de officiële wetstekst en voor cijfers een organisatie die de gegevens zelf publiceert.
Een extra minuut zoeken is vaak al genoeg.
Wat moet je hiervan onthouden?
Je hoeft AI niet blind te vertrouwen. Je hoeft het ook niet voortdurend te wantrouwen.
Deze vraag is veel belangrijker:
Wat gebeurt er als dit antwoord niet klopt?
Is het antwoord: weinig? Gebruik AI vooral.
Kan een fout je geld kosten, een belangrijke beslissing beïnvloeden of ergens anders serieuze gevolgen hebben? Controleer dan de feiten die ertoe doen.
Dat is uiteindelijk een stuk bruikbaarder dan proberen te bepalen of AI in het algemeen betrouwbaar is.
Veelgestelde vragen
Kan ChatGPT, Copilot of Claude verkeerde informatie geven?
Ja. Een taalmodel kan feiten verkeerd weergeven, informatie door elkaar halen of details verzinnen. Zo’n fout wordt een hallucinatie genoemd.
Kun je aan een AI-antwoord zien of het klopt?
Niet altijd. Een verkeerd antwoord kan net zo overtuigend worden geformuleerd als een correct antwoord. De toon is daarom geen goede graadmeter voor betrouwbaarheid.
Moet ik ieder antwoord van AI controleren?
Nee. Kijk vooral naar de mogelijke gevolgen van een fout. Voor brainstormen of het herschrijven van een tekst is uitgebreide controle meestal niet nodig. Voor belangrijke feiten, cijfers, financiële informatie, medische informatie of juridische informatie wel.
Kan ik de bronnen gebruiken die AI noemt?
Ja, maar open ze eerst. Controleer of de bron bestaat, of de informatie er daadwerkelijk in staat en of de bron actueel en betrouwbaar genoeg is voor waarvoor je hem wilt gebruiken.