AI Risk
Hallucinatie
Een hallucinatie is een foutief of verzonnen antwoord van een AI-model dat wel geloofwaardig klinkt. Dit gebeurt wanneer het model patronen voorspelt zonder voldoende correcte context of broninformatie, wat risico's geeft in bijvoorbeeld advies, rapportering en compliance.
HALLUC · Ook bekend als: AI-hallucinatie, hallucination
Waarom hallucineert een AI?
Een AI-hallucinatie is een output waarbij het model plausibel klinkende informatie genereert die feitelijk onjuist, verzonnen of niet aantoonbaar herleidbaar is tot echte bronnen. Het model "ziet" niets letterlijks: het genereert tekst door statistisch de meest waarschijnlijke voortzetting te berekenen op basis van geleerde patronen. Wanneer het de werkelijkheid niet kent, genereert het een statistisch plausibel alternatief dat fout is.
Typische voorbeelden zijn incorrecte citaten, verzonnen wetgeving, niet-bestaande bedrijven of foutieve statistieken. Het gevaarlijke is dat de output grammaticaal correct, logisch coherent en qua stijl overtuigend is, waardoor het voor een niet-expert moeilijk is om de fout te herkennen.
Hallucinatie beperken in zakelijke toepassingen
De beste verdediging tegen hallucinatie is het koppelen van het model aan verifieerbare bronnen via RAG. In plaats van uit zijn eigen, mogelijk verouderde of onvolledige trainingsdata te putten, haalt het model informatie op uit de bedrijfseigen kennisbank en citeert hij de bron. Als de bron niet beschikbaar is of als het model onzeker is, erkent het dit expliciet.
Aanvullende maatregelen omvatten het instellen van een lagere temperatuurwaarde (dit reduceert creatieve maar onjuiste output), systeemlevelinstructies die het model verplichten onzekerheid te erkennen, en menselijke validatie voor outputs die gebruikt worden in klantcommunicatie of beslissingen.
Wat betekent Hallucinatie?
Een hallucinatie is een foutief of verzonnen antwoord van een AI-model dat wel geloofwaardig klinkt. Dit gebeurt wanneer het model patronen voorspelt zonder voldoende correcte context of broninformatie, wat risico's geeft in bijvoorbeeld advies, rapportering en compliance.