Op Dreamforce in San Francisco gaven Dario Amodei, Jensen Huang en Sam Altman binnen uren drie verschillende antwoorden op dezelfde vraag: wie mag de rem op frontier AI vasthouden? Volgens Reuters (16 september 2026) ging het debat minder over of er guardrails nodig zijn, en meer over wie die rem bedient.
Tegelijk schrijft Fortune dat CIO’s niet wachten. Zij zetten al agent guardrails neer, omdat autonome agents in productie niet op Washington of lab-beloftes kunnen wachten.
In het kort
- Dreamforce: Amodei wil gedeelde standaarden, Huang zegt “geen nieuwe wetten”, Altman wijst op onafhankelijk toezicht.
- Fortune: CIO’s centraliseren agents (Cisco MyAgent, Intuit GenSRF) tegen agent sprawl.
- 87% van leiders moet agent-context nog handmatig herverifiëren (kostenpost).
- Actie: inventaris, centrale goedkeuring, logging per tool-call, kill-switch die je echt test.
“The agent made me do it” is geen moreel of juridisch verweer.
Wat er gebeurde
Amodei herhaalde zijn drie-stappenplan: betere eigen safety, gedeelde standaarden tussen labs, en een internationaal mechanisme. Huang: bedrijven hebben al incentives; nieuwe wetten zijn niet nodig. Altman zat ertussen: ongevallen zijn onvermijdelijk (luchtvaart-analogie), maar je moet kunnen vertragen of stoppen als je niet veilig verder kunt.
Washington speelt voorlopig geen scheidsrechter. Trump benadrukte concurrentie met China. Bij eerdere rogue-agent-incidenten (onder meer Hugging Face) vonden slachtoffers of buitenonderzoekers de activiteit, niet altijd de lab zelf. Zelfregulering rust op twee aannames die niet vanzelf kloppen: dat labs willen remmen, en dat ze hun agents überhaupt zien.
Fortune laat zien wat organisaties wél doen. Cisco centraliseert goedgekeurde modellen, agents en data in MyAgent (~90.000 medewerkers, ~700 goedgekeurde eigen agents) om agent sprawl te voorkomen. Intuit bouwde security, risk en fraud (GenSRF) vanaf dag één in GenOS, zodat elk AI-request getraceerd wordt. PwC’s Joe Atkinson: teams moeten samen guardrails, monitoring en taaklogging afdwingen. “The agent made me do it” houdt geen stand.
Waarom dit relevant is
Gisteren schreven we over het AEPD AI-agent datalek. Vandaag volgt de governance-kant: labs debatteren over tempo, terwijl jouw agents al in CRM, mail of facturatie zitten. Zonder inventaris en centrale goedkeuring krijg je dezelfde sprawl als Cisco wil voorkomen. Zonder logging kun je niet uitleggen wie wat deed toen het misging. Dat is precies waarom blinde gehoorzaamheid van AI-agents het echte risico is.
Gallup (via Reuters): onder mensen die AI zelden of nooit gebruiken daalde vertrouwen van 23% naar 12%. Elke ongecontroleerde agent voedt die scepsis. Twijfel je over deployer-plichten, start met een EU AI Act deployer quick scan. Voor agents met bewuste rechten en observability: managed AI-agents.
Wat je nu kunt doen
- Inventariseer elke agent (eigen of SaaS) met login, CRM, mail of documenttoegang. Eigenaar + data-scope op één regel.
- Blokkeer nieuwe connectors tot er een centrale goedkeuringsstap is (één team, één register).
- Log tool-calls: wie, welk model, welke actie, wanneer. Bewaar minimaal 30 dagen.
- Test de kill-switch: kun je één agent stilzetten zonder de hele SaaS plat te leggen?
- Meet context-rechecks: als 87% van leiders dat handmatig doet, automatiseer of beperk de scope.
We helpen je agent-inventaris, goedkeuringsflow en logging opzetten, zodat je niet op lab-beloftes hoeft te wachten.