Sprekers

Frans is werkzaam bij de Nederlandsche Bank, waar hij zich met name richt op AI risico's, AI beleid, AI regulering en toezicht op AI. Hiervoor zit hij in verschillende werkgroepen van toezichthouders, waarin nagedacht wordt over hoe het toezicht per lidstaat ingericht moet worden en wat de standaarden zijn waar op toe moet worden gezien. Frans kijkt daarin specifiek welke rol DNB als prudentieel en integriteitstoezichthouder moet nemen. Moet DNB bijvoorbeeld het toezicht op algorithmic fairness, en dus non-discriminatie, in de financiële sector op zich willen nemen. En hebben we daar over sowieso een keuze als Europese partijen (ECB, EBA, EIOPA, ESMA) zich hier op gaan richten. DNB is in de AI-Act aangewezen als een van de toezichthouders die met deze nieuwe verordening nieuwe taken gaan krijgen.

Daarnaast doet Frans Bestuurskundig onderzoek aan de Universiteit Utrecht. Hier onderzoekt hij hoe toezichthouders een steeds breder toezichtsmandaat verenigen met haar legitimiteit, handelingsperspectief en mogelijkheden tot verantwoording. Specifiek wordt gekeken naar termen als publieke belangen, missiegedreven en risicogestuurd toezicht, en publieke en maatschappelijke waarden. Het onderzoek moet toezichthouders een klankbord geven om kritisch te reflecteren op hoe ver ze buiten het strikt geformuleerde juridische mandaat mogen komen. Open normen geven die flexibiliteit bijvoorbeeld al in sterke mate.

Deze twee richtingen komen samen in het toezicht op AI. Hierbij moet er aandacht zijn voor de risico's van AI, en moet er nagedacht worden over mitigerende maatregelen. Dit alles komt samen in een risicogebaseerde aanpak in de AI-Act, waarin AI-toepassingen in 4 risicocategorieën kunnen worden geclassificeerd. In het hoogste risico cluster vallen heeft de meeste mitigerende maatregelen (namelijk de toepassing verbieden) en in het laagste risico cluster zijn er slechts beperkte transparantievereisten.