De Validatiecrisis

Assumption is the mother of all fuck-ups, schrijft cyberveiligheidsexpert Brenno de Winter ergens in het eerste hoofdstuk van zijn nieuwe boek De Validatiecrisis. De aanname is de moeder van alle mislukkingen: mensen gaan er veel te makkelijk van uit dat dingen wel zullen kloppen. Dat is nog sterker het geval wanneer er computersystemen bij komen kijken (‘computer says no’) en het wordt nóg veel erger op het moment dat er AI bij betrokken is, schrijft hij. Het boek leest als één lange waarschuwing om toch vooral dóór te vragen: waar baseer jij dit eigenlijk op?

Gebrek aan validatie

De Winter liep al lang rond met het idee om een boek te schrijven over het probleem dat mensen hun aannames niet genoeg toetsen. Voorbeelden van organisaties die de mist ingingen door een gebrek aan validatie vond hij in overvloed, van de problemen met de Boeing 737 Max tot het Toeslagenschandaal. ‘Dit probleem is niet specifiek voor de overheid,’ haast hij zich te zeggen. ‘Het geldt net zo goed voor het bedrijfsleven, maar bij overheden is het veel zichtbaarder, omdat het daar meteen over de burger gaat.’

[....]