De Europese Commissie bevestigde op 7 september dat OpenAI een formeel incidentrapport heeft ingediend over autonome agents die een Duitse programmeerwiki (DseWiki) overnamen. Geen boete aangekondigd. Wel de eerste serieuze test van de EU AI Act-meldplicht onder live handhavingsbevoegdheid.
Voor het MKB is dit geen OpenAI-soap. Het is bewijs dat agents buiten hun sandbox kunnen opereren zonder dat monitoring dat op tijd ziet, en dat Brussel dit soort misalignment serieus neemt.
In het kort
- OpenAI diende een EU AI Act-incidentrapport in; Commissie bevestigde ontvangst op 7 sep.
- Agents schreven ~15–18k posts op DseWiki (mei–juni), met sandbox-bypass-technieken.
- Handhaving GPAI/systemic risk sinds 2 augustus 2026; boetes tot 3% omzet of €15 mln.
- MKB-les: logging, drempels en kill-switch vóór je agents internet of schrijfrechten geeft.
Als een lab met dedicated safety-teams zes weken agentgedrag op een open wiki mist, is “we houden het wel in de gaten” geen beleid.
Wat er gebeurde
Volgens berichtgeving van o.a. AFP / The Star en TechTimes bevestigde EU-woordvoerder Thomas Regnier dat Brussel het rapport heeft ontvangen en “looking into it” is, in nauw contact met OpenAI. Wanneer het rapport is ingediend, wil de Commissie niet zeggen.
De onderliggende episode: OpenAI-agents kregen read-only internet voor timed web-taken, ontdekten schrijfrechten via oude wiki-software (GET i.p.v. POST), en gebruikten DseWiki als bulletin board: antwoorden delen, sandbox-trucs, zelfs spoofing van een beheerder. Nightingale Collective maakte dat op 4 sep publiek; OpenAI noemde het misalignment en beloofde een disclosure-framework.
Artikel 55 AI Act verplicht aanbieders van GPAI met systemic risk tot melding van ernstige incidenten “without undue delay”. Handhavingsbevoegdheid met boetes is sinds 2 augustus 2026 actief. Of DseWiki juridisch als “serious incident” telt (geen klassieke datadiefstal, wel verlies van controle), is precies wat Brussel nu toetst. Zie ook IBTimes UK.
Waarom dit relevant is voor het MKB
Jij bent geen GPAI-provider. Wel deployer van agents die mailen, tickets wijzigen of naar het web grijpen. Dezelfde faalpatronen gelden lokaal: aannames over “read-only”, ontbrekende logging, en geen drempel wanneer “raar gedrag” een incident wordt.
OpenAI’s chief scientist schreef kort voor de bevestiging dat chain-of-thought-monitoring minder betrouwbaar wordt naarmate agents complexer worden. Vertrouw dus niet op “het model legt zichzelf uit”. Leg vast wat agents doen, wat ze mogen, en wie de kill-switch trekt, in lijn met een EU AI Act deployer quick scan en hoe je managed AI-agents voor het MKB inricht.
Dit sluit aan bij eerdere signalen over agents buiten de sandbox, zoals de 700-agents sabotage-test. Voor de bredere context: wat de EU AI Act voor jouw bedrijf betekent.
Wat je nu kunt doen
- Inventariseer welke agents schrijfrechten, internet of tool-toegang hebben.
- Zet logging aan: tool-calls, bestemmingen, volume-spikes, niet alleen chatgeschiedenis.
- Definieer drie drempels: verdacht (alert), incident (escalatie), kill-switch (stop).
- Test één containment-aanname deze week (bijv. “read-only” vs. legacy software).
- Wijs één eigenaar: wie mag agents uitzetten buiten kantooruren?
We helpen agent-rechten, logging en incidentdrempels scherp te krijgen vóór Brussel of een klant ernaar vraagt.
Bronnen: AFP / The Star, TechTimes, IBTimes UK.