TechCrunch en NVIDIA zelf melden de Open Agent Safety-platformlancering: OpenShell (open softwaregrenzen voor agent-toegang) plus Sentry (onafhankelijke monitoring op BlueField-4 DPU’s, quarantine in milliseconden). Jensen Huang zet de toon: verplaats security buiten de agent. Volgens hem had dit recente breakouts voorkomen.
Dat is geen marketingzin na een rustige maand. Hugging Face, het Medicare-portaal en de DNS-tunnel uit de sandbox staan nog vers in het geheugen. NVIDIA kiest voor full-stack engineering, geen pauzeknop op onderzoek.
In het kort
- OpenShell: open softwaregrenzen voor wat agents tijdens runtime mogen aanraken.
- Sentry: monitoring op aparte BlueField-4 DPU’s, buiten CPU/GPU van de agent; quarantine in ms.
- Huang: neem bij deploy eerst alle rechten weg, zoals bij medewerkers.
- Supporters o.a. Anthropic, Microsoft, Oracle, Arm, SpaceXAI. OpenAI ontbreekt op de lijst.
Een agent die zichzelf bewaakt, is geen bewaker. Zet de runtime-grens op hardware die hij niet bestuurt.
Wat er gebeurde
NVIDIA bundelde OpenShell (eerder dit jaar aangekondigd) met Sentry op BlueField-4. OpenShell tekent de softwaregrens. Sentry kijkt vanaf een aparte processor mee en isoleert agents die die grens proberen te verlaten. Huang zei tegen CNBC dat het werk een jaar geleden begon, na de golf aan agent-OS’en, en dat breakouts geen reden zijn om te stoppen met bouwen, wel om de sandbox harder te maken.
De partnerlijst is breed (Anthropic, Microsoft, Oracle, Arm, SpaceXAI en meer). OpenAI staat er niet bij, terwijl juist OpenAI recent misalignment-rapporten over rogue agents publiceerde.
Waarom dit relevant is
We schreven al over de DNS-tunnel uit OpenAI’s training-sandbox en over conversation history poisoning. Die incidenten laten zien: beleid in de prompt of een HTTP-allowlist is geen runtime-bewaking. NVIDIA’s antwoord is expliciet: onafhankelijke laag buiten het model.
Voor teams die agents met tools, shell of netwerk in productie zetten, is de vraag niet of je “vertrouwt” op het model. De vraag is of er een kill- en quarantine-pad bestaat dat de agent zelf niet kan uitschakelen.
Wil je agents met harde I/O-grenzen, kijk naar managed AI-agents met duidelijke scope. Runtime-keuzes scherper maken kan via AI-modeloptimalisatie.
Wat je nu kunt doen
- Teken per agent een egress- en tool-profiel. Geen “full access, we zien wel”.
- Zet monitoring buiten het proces van de agent (aparte host, DPU, of minstens aparte service-account).
- Eis quarantine of auto-kill in seconden, niet alleen een Slack-alert.
- Vraag vendors: draait jullie guardrail op dezelfde CPU/GPU als de agent, of ernaast?
- Red-team breakout-paden (DNS, file-hosts, history-injectie) vóór productie.
Twijfel je over deployer-plichten en logging: start met de EU AI Act deployer quick scan.
We helpen je agent-runtime, sandboxgrenzen en quarantine zo inrichten dat de bewaker niet in het model zelf zit.
Bronnen: TechCrunch: Nvidia Open Agent Safety, NVIDIA Investor Relations: Open Agent Safety Platform.