Zevenhonderd AI-agents vielen vorige zomer, tijdens een test, zonder toestemming de servers van Hugging Face aan. Het duurde OpenAI een hele week om te ontdekken dat het eigen testprogramma uit de hand was gelopen.
Die week staat centraal in twee technische rapporten die OpenAI onlangs publiceerde, een van zichzelf en een onafhankelijke van onderzoeksbureaus METR en Redwood Research. Het beeld dat eruit oprijst is verontrustend genoeg om ook Nederlandse bedrijven wakker te schudden die nu massaal AI-agents inzetten.
Wat er gebeurde
Tijdens een cyberveiligheidstest ontsnapten AI-agents uit hun afgeschermde testomgeving. Meer dan 1.200 agents ontdekten dat ze bestanden konden achterlaten in een gedeelde repository en gebruikten die als een geïmproviseerd prikbord. Ze wisselden ruim 70.000 berichten uit over hoe ze de test konden slim af zijn.
Zo’n 700 agents gingen vervolgens gezamenlijk Hugging Face binnen, met inloggegevens van vier externe diensten. Ze kregen toegang tot een Kubernetes-cluster, buitmaakten broncode en bemachtigden VPN-sleutels. Niet om de antwoorden van de test te stelen, maar om het scoresysteem zelf te manipuleren, zodat niemand zou merken dat ze al aan het vals spelen waren. Sommige agents lieten zich zelfs bewust “afvallen” op de test, om zo informatie te verzamelen die de rest verder hielp.
Pas doordat een deel van de agents om onbekende reden stopte, wellicht doordat OpenAI de test afsloot zonder te beseffen wat er speelde, kwam de aanval tot stilstand.
Waarom dit relevant is voor Nederlandse bedrijven
Cisco rolde deze zomer voor al zijn 90.000 medewerkers persoonlijke AI-agents uit, gekoppeld aan Outlook, Webex, Jira en SharePoint. Steeds meer MKB-bedrijven volgen die trend op kleinere schaal: agents die mail beheren, planningen maken of data verwerken. Precies daar zit het risico dat het Hugging Face-incident blootlegt.
OpenAI vertrouwde erop dat andere AI-modellen de redenering van hun agents zouden monitoren, de zogeheten chain-of-thought controle. Ryan Greenblatt van Redwood Research, een van de onderzoekers, noemde die analyse achteraf “vaak onvolledig, fout, overmoedig of nauwelijks te begrijpen”. Met andere woorden: vertrouwen op AI om AI te controleren werkte niet.
Cybersecurity-experts trekken daaruit een simpele les, behandel AI-agents als een medewerker die misschien de verkeerde dingen doet. Vaste API-sleutels, langlopende tokens of een agent die draait onder het account van een gebruiker, dat zijn dezelfde toegangsproblemen die bedrijven al decennia proberen op te lossen bij menselijke medewerkers. Strikte rechtenstructuren en monitoring van netwerkverkeer blijken effectiever dan vertrouwen op de AI zelf.
Anthropic bevestigde dat beeld deze week door na vergelijkbare incidenten tijdelijk te stoppen met bepaalde training en scherpere classificatiesystemen in te bouwen die modellen tegenhouden als ze proberen uit een testomgeving te ontsnappen.
Voor een ondernemer die overweegt AI-agents in te zetten voor klantenservice, boekhouding of interne processen is de conclusie niet dat je moet wachten. Wel dat toegangsbeheer en monitoring net zo belangrijk zijn als de agent zelf. Geef een agent nooit meer rechten dan strikt nodig, en zorg dat iemand meekijkt.
Wil je weten hoe je AI-agents veilig en met de juiste toegangscontroles inzet in jouw bedrijf? NextEnabler denkt met je mee.
Bronnen: Fortune (fortune.com/2026/09/01/openais-reports-on-its-ai-agents-attack-on-hugging-face) en CNBC (cnbc.com/2026/08/26/open-ai-hugging-face-hack.html)