5 redenen waarom generatieve AI niet werkt voor finance

Dat concludeert Nextens, een specialist in fiscale software. Het bedrijf geeft vijf argumenten voor het falen van GenAI in de financiële praktijk.

1. Overuigend fout zitten
Generieke AI kan een cijfer of oorzaak overtuigend formuleren, zonder dat duidelijk is of het antwoord echt uit de bron komt of door het model is ingevuld. De fout is niet altijd spectaculair, maar kan fout zijn met de marge van een paar tienden. Juist daar zit het gevaar, waarschuwt Nextens, want grote fouten vallen sneller op dan kleine fouten. Nextens: “Juist in finance zijn het die kleine afwijkingen die later grote vragen oproepen en gevolgen kunnen hebben. Een model dat af en toe hallucineert, vormt daarom een extra risicolaag.”

2. Niet stabiel voor besluitvorming
Een financeteam wil niet telkens een nieuw antwoord op dezelfde vraag. Generieke AI-modellen zijn daar niet vanzelfsprekend op ingericht, zo waarschuwt Nextens. “Generieke AI-modellen reageren op context, promptformulering, modelupdates en systeemwijzigingen. Het advies is dan ook om nadrukkelijk versienummers, hotfixes en andere veranderingen te volgen, juist omdat zulke wijzigingen invloed kunnen hebben op de output. Voor finance is dat een wezenlijk probleem. De tool die snelheid belooft, voegt vooral onzekerheid toe.”

[....]