AI Risk
Explainability
Explainability is de mate waarin een AI-systeem begrijpelijk kan maken hoe het tot een conclusie of voorspelling komt. Dit is belangrijk wanneer beslissingen impact hebben op klanten, medewerkers of compliance.
XAI · Ook bekend als: uitlegbaarheid, explainable AI
Waarom AI transparant moet zijn
Explainability, of uitlegbaarheid, verwijst naar het vermogen van een AI-systeem om te verklaren waarom het een bepaalde output heeft gegenereerd of een bepaalde beslissing heeft genomen. Voor een tekstgenererende AI betekent dit kunnen aangeven welke bronnen of welk type redenering aan de basis lagen. Voor een beslissingsondersteunend systeem betekent het de factoren kunnen benoemen die het zwaarst doorwegen.
De Europese AI-verordening (EU AI Act) stelt explainability als eis voor hoog-risico AI-systemen, waaronder systemen die gebruikt worden voor personeelsbeslissingen, kredietverlening of sociale uitkeringen. Ook zonder wettelijke verplichting is uitlegbaarheid waardevol: medewerkers vertrouwen een systeem meer als ze begrijpen waarom het een bepaalde aanbeveling doet.
Explainability in de dagelijkse praktijk
In de praktijk uit explainability zich op verschillende manieren. Een AI die een offerte samenstelt, toont welke productinformatie hij gebruikt heeft. Een agent die een klachtenmail categoriseert, geeft aan op basis van welke signaalwoorden hij tot zijn conclusie kwam. Een risicobeoordelingssysteem somt de factoren op die het meest bijdragen aan de score.
Elke output die gebaseerd is op interne documenten, vermeldt de bron. Wanneer een agent een aanbeveling doet, kan de gebruiker de redenering opvragen. Dit maakt het eenvoudiger om fouten te signaleren, het systeem bij te sturen en het vertrouwen van medewerkers te winnen.
Wat betekent Explainability?
Explainability is de mate waarin een AI-systeem begrijpelijk kan maken hoe het tot een conclusie of voorspelling komt. Dit is belangrijk wanneer beslissingen impact hebben op klanten, medewerkers of compliance.