Confidence score

Wat een confidence-score aangeeft

Een confidence-score is een getal, vaak uitgedrukt als percentage of een waarde tussen 0 en 1, waarmee een AI-model aangeeft hoe zeker het is van zijn uitkomst. Een e-mailclassificator die spam detecteert met een score van 0,97 is zeer zeker; een score van 0,54 betekent dat het model nauwelijks beter scoort dan toeval. De score is niet hetzelfde als nauwkeurigheid: een model kan hoog-confident én fout zijn.

Drempelwaarden instellen

In de praktijk stel je drempelwaarden in die bepalen wanneer de AI autonoom handelt en wanneer een mens tussenkomt. Alles boven 0,90 wordt automatisch verwerkt; alles tussen 0,70 en 0,90 gaat naar een reviewwachtrij; alles onder 0,70 wordt volledig handmatig behandeld. Die drempelwaarden zijn een bedrijfsbeslissing, geen technische instelling: hoe hoog de kost van een fout, hoe hoger de drempel.

Interpreteer scores in context

Een confidence-score zegt iets over het model, niet altijd over de werkelijkheid. Kalibreer je model regelmatig: meet hoe vaak een 0,90-score echt correct is. Als die 0,90 slechts 70% van de tijd klopt, is je drempelwaarde te laag en vertrouw je te veel op de AI. Gebruik confidence-scores als beslissingshulp, niet als absoluut bewijs.