Fallback

Wat is een fallback en waarom heb je die nodig?

Een fallback is een alternatief gedrag dat een AI-systeem vertoont wanneer het primaire gedrag niet werkt. Dit kan zich voordoen wanneer een model tijdelijk niet beschikbaar is, wanneer een vraag buiten het geconfigureerde domein van de agent valt, wanneer de betrouwbaarheidsscore van een antwoord onder een drempelwaarde zakt, of wanneer een API-aanroep mislukt. Zonder fallback-mechanisme geeft een systeem een cryptische fout terug of, erger, een onjuist antwoord zonder te signaleren dat er iets mis is.

Een goed ontworpen fallback is onzichtbaar voor de eindgebruiker in de positieve zin: het systeem degradeert gracieus naar een minder verfijnde maar nog steeds bruikbare ervaring, of informeert de gebruiker duidelijk dat een handmatige opvolging nodig is.

Soorten fallbacks in AI-systemen

Er zijn meerdere types fallbacks die naast elkaar ingezet kunnen worden. Een modelfallback schakelt naar een ander taalmodel wanneer het primaire model niet beschikbaar is. Een antwoordfallback geeft een standaardreactie terug wanneer het model onvoldoende vertrouwen heeft in zijn output. Een escalatiefallback stuurt het verzoek door naar een menselijke medewerker wanneer automatisering niet volstaat.

Wanneer een primair model een time-out heeft, schakelt het systeem transparant naar een alternatief. Wanneer een agent een vraag niet kan beantwoorden op basis van de beschikbare kennisbank, erkent hij dit expliciet en suggereert een alternatieve actie in plaats van een gefabriceerd antwoord te geven.