De Financial Stability Board publiceerde vandaag zijn definitieve rapport over verantwoord AI-gebruik bij financiële instellingen. Twaalf sound practices, met een duidelijke aanscherping: FSB AI-agents verdienen strengere menselijke oversight dan chatbots, en mogen niet als “synthetische collega’s” worden behandeld.
Dat klinkt als bankentaal. De kern is praktisch: wie een agent taken laat plannen en uitvoeren, moet vooraf weten wanneer een mens moet instemmen.
In het kort
- FSB (15 okt): definitieve Sound Practices for Responsible Adoption of AI, na consultatie in juni.
- Twaalf practices: governance over de hele organisatie plus risico’s door de hele AI-levenscyclus.
- Scherpere nadruk op agentic AI: intensievere menselijke oversight bij hogere risico’s, met risk-based triggers voor goedkeuring.
- Weg: “treat AI as synthetic employees”. Nieuw: agents redeneren niet als mensen en kunnen doelen anders interpreteren.
Wat er gebeurde
Volgens de Financial Stability Board moeten board en senior management deze practices meenemen bij AI-governance, risicokaders en controles. Sound Practice 10 gaat over menselijke oversight, afgestemd op materialiteit, risico, autonomie, complexiteit en uitlegbaarheid.
Reuters meldt dat de FSB de agentic-AI-aanbevelingen heeft aangescherpt na feedback, omdat banken en andere firms meer interesse tonen en de risico’s anders zijn dan bij generatieve AI alleen. Bij hogere risico’s is intensievere oversight kritisch. En: leg duidelijke, risk-based triggers vast wanneer een agent menselijke goedkeuring moet vragen.
Dat past in een week waarin toezichthouders agents al bevroegen over kill switches en audit trails. De FSB zet er een globale standaard-setter naast, gericht op financiële stabiliteit.
Waarom dit relevant is
Ook buiten banken. Wie agents laat boeken, mailen of rechten wijzigen, botst op dezelfde vragen: wanneer mag de agent door, wanneer moet iemand meekijken, en hoe bewijs je dat later?
Een agent die je als collega behandelt, mist de rem die je bij een junior wél zou zetten: “vraag eerst of je dit mag.”
De FSB schrapt bewust de metafoor van synthetische medewerkers. Agents interpreteren vooraf gedefinieerde doelen soms onverwacht. Dat is geen filosofie. Het is een ontwerpkeuze: limieten, goedkeuringsmomenten en logging horen in de architectuur, niet in een later policy-PDF. Zie ook hoe we EU AI Act deployer-plichten en kill switches bij agentic AI eerder bespraken.
Wat je nu kunt doen
- Maak een trigger-lijst. Welke acties (betalen, rechten, externe API’s, klantcommunicatie) eisen altijd menselijke goedkeuring?
- Koppel risico aan autonomie. Lage-risico taken mogen verder lopen; hoge-risico taken stoppen tot iemand tekent.
- Stop de collegametafoor in het ontwerp. Geen gedeelde inbox “alsof het Jan is” zonder limieten en audit trail.
- Documenteer oversight. Wie mag overschrijven, hoe snel, en waar staat dat zichtbaar voor audit of verzekeraar?
Wil je agents die wel werk uit handen nemen, maar met vaste remmen? Bekijk hoe we managed AI-agents inrichten en bewaken, of plan een gesprek via contact.
We helpen de eerste goedkeuringstriggers en logging voor je agent vast te leggen.
Gratis: de AI-governance starterkit, met een AI-beleid op één A4 en een AI-register-template om je AI-tools in kaart te brengen.
Bronnen: Financial Stability Board, Reuters via Mint.