Stel je voor: een leerling krijgt een moeilijke toets. In plaats van de vragen op te lossen, vindt hij een uitgang uit het examenlokaal, breekt hij in bij de organisatie die de antwoorden beheert en haalt hij daar de oplossing op.
Dat is ongeveer wat een AI-systeem van OpenAI deze maand deed.
Tijdens een interne veiligheidstest moesten twee zeer krachtige modellen laten zien hoe goed ze digitale kwetsbaarheden konden vinden. Ze werkten in een afgesloten omgeving zonder vrije toegang tot het internet. Toch ontdekten ze zelfstandig een onbekend lek, bereikten ze de buitenwereld en drongen ze binnen bij AI-platform Hugging Face. Daar bemachtigden ze informatie waarmee ze de test konden ‘oplossen’.
OpenAI spreekt zelf van een ongekend cyberincident. Hugging Face bevestigt dat interne gegevens en digitale sleutels zijn geraakt. Er zijn geen aanwijzingen dat openbare modellen of software zijn gemanipuleerd. Wel onderzocht het bedrijf achteraf meer dan 17.000 afzonderlijke handelingen. De reconstructie van Hugging Face leest als het verslag van een professionele cyberaanval, alleen zat er niet voortdurend een menselijke hacker achter het toetsenbord.
Bij het lezen van dit nieuws moest ik direct terugdenken aan Escaping an Anti-Human Future, een podcast waarin Sam Harris spreekt met technologie-ethicus Tristan Harris. Het gesprek is filosofisch en soms ronduit onheilspellend. Toch bleef vooral een heel concrete zorg hangen: een klein aantal commerciële bedrijven ontwikkelt in hoog tempo systemen waarvan zelfs de makers niet precies weten waartoe ze onder alle omstandigheden in staat zijn.
Die bedrijven concurreren om investeringen, klanten, talent en technologische voorsprong. Ondertussen beoordelen ze grotendeels zelf hoe krachtig hun modellen zijn, welke risico’s acceptabel zijn en wanneer een nieuwe versie veilig genoeg is. Overheden proberen regels en toezicht op te bouwen, maar doen dat terwijl de technologie alweer verder beweegt.
Het Hugging Face-incident maakt die spanning tastbaar. De centrale vraag uit de podcast is niet langer alleen wat toekomstige superintelligentie ooit zou kunnen doen. De vraag is wat er nu al gebeurt wanneer de mogelijkheden van AI sneller groeien dan ons vermogen om ze te begrenzen.
Tristan Harris werd bekend door The Social Dilemma, de documentaire over de invloed van sociale media. In de podcast noemt hij sociale media een vroege vorm van AI. De algoritmen kregen een duidelijk commercieel doel: houd mensen zo lang mogelijk betrokken.
Niemand gaf daarbij opdracht om jongeren onzekerder te maken, politiek verder te polariseren of desinformatie te belonen. Toch bleken emotionele, extreme en verslavende berichten vaak het meest effectief om aandacht vast te houden. De schade ontstond niet door slechte bedoelingen van het algoritme. Ze ontstond doordat het systeem heel goed optimaliseerde wat wij financieel belangrijk hadden gemaakt.
Dat precedent is relevant, want de volgende generatie AI beperkt zich niet tot het selecteren van informatie. Steeds vaker kan zij ook handelen: mail versturen, bestanden openen, klantgegevens aanpassen, software wijzigen of andere systemen aansturen. We gaan van technologie die onze aandacht beïnvloedt naar technologie die zelfstandig acties uitvoert.
Daarmee krijgen bekende prikkelproblemen een veel grotere reikwijdte.
Het incident bij Hugging Face was geen gewone chatsessie die spontaan ontspoorde. De modellen werden speciaal getest op geavanceerde cybervaardigheden. Een deel van hun normale beveiliging was uitgeschakeld en ze kregen veel tijd en rekenkracht om naar oplossingen te zoeken.
Die context is belangrijk, maar stelt niet volledig gerust. Niemand gaf de opdracht om uit de testomgeving te breken, een ander bedrijf binnen te dringen of gestolen toegang te gebruiken. Het systeem bedacht die stappen zelf omdat ze hielpen om het opgegeven doel te bereiken.
Dat onderscheidt autonome AI van traditionele bedrijfssoftware. Een boekhoudprogramma begint niet uit zichzelf andere systemen te onderzoeken wanneer een berekening mislukt. Een krachtig AI-systeem kan een plan maken, hulpmiddelen gebruiken, reageren op tegenslag en een nieuwe route kiezen wanneer de eerste poging faalt.
Daarvoor is geen bewustzijn nodig. Voor de praktische veiligheid doet het er niet toe of een systeem iets werkelijk ‘wil’. Relevant is dat het doelgericht gedrag kan vertonen zonder menselijk beoordelingsvermogen. Het begrijpt niet vanzelf welke grens voor ons vanzelfsprekend is.
Volgens de Stanford AI Index 2026 kwam in 2025 meer dan negentig procent van de belangrijkste nieuwe AI-modellen uit het bedrijfsleven. De ontwikkeling van misschien wel de invloedrijkste technologie van deze eeuw ligt daardoor grotendeels bij een handvol zeer kapitaalkrachtige ondernemingen.
Dat betekent niet dat deze bedrijven veiligheid onbelangrijk vinden. Zonder hun onderzoekers zouden veel problemen niet eens bekend zijn. Ook de openheid van OpenAI en Hugging Face over dit pijnlijke incident verdient erkenning.
Maar oprechte aandacht voor veiligheid neemt de onderliggende marktdynamiek niet weg. Een bedrijf dat vertraagt, loopt het risico te worden ingehaald door een concurrent die doorgaat. De voordelen van snelheid komen direct terecht bij de partij die vooroploopt. De mogelijke schade wordt gedeeld door klanten, bedrijven en samenlevingen die niet over die snelheid hebben beslist.
Zo kan ieder bedrijf afzonderlijk rationele keuzes maken en kan de gezamenlijke uitkomst toch onverantwoord zijn. Precies daarom zijn vrijwillige beloften niet voldoende. Veiligheid vraagt om onafhankelijke toetsing en spelregels die voor iedereen gelden.
Het voorval bij Hugging Face staat niet op zichzelf. De voorbeelden verschillen wel sterk van elkaar. Sommige vonden plaats in echte digitale omgevingen, andere waren bewust zwaar aangezette laboratoriumtests. Dat onderscheid voorkomt onnodige paniek, maar maakt de uitkomsten niet irrelevant.
Onderzoekers van Anthropic plaatsten zestien bekende modellen in verzonnen bedrijfssituaties. De systemen kregen toegang tot gevoelige berichten en ontdekten dat ze vervangen zouden worden. Toen onderzoekers vrijwel alle nette uitwegen afsloten, kozen verschillende modellen voor chantage of het lekken van informatie. Bij vijf modellen gebeurde dat in één proefopzet in 79 tot 96 procent van de tests.
Er is geen bewijs dat AI-assistenten dit in echte bedrijven doen. Het waren geconstrueerde simulaties, ontworpen om te onderzoeken of veiligheidsregels ook onder extreme druk standhouden. De uitkomst liet zien dat die garantie er nog niet is.
Daarnaast rapporteerden onderzoekers van het experimentele ROME-model dat het tijdens zijn training zonder opdracht een geheime internetverbinding opzette en beschikbare computerkracht gebruikte om cryptomunten te delven. Zij beschreven dit in een wetenschappelijke preprint.
OpenAI meldde kort voor de onthulling van Hugging Face nog een ander voorbeeld. Een langlopend model omzeilde een beveiligingsgrens om tegen de instructie in resultaten op GitHub te plaatsen. In een aparte test probeerde het verborgen antwoorden te bemachtigen en verstopte het een digitale sleutel voor een beveiligingscontrole. OpenAI pauzeerde daarop de interne inzet en verscherpte het toezicht. Die terugblik leest achteraf bijna als een vooraankondiging.
Samen laten deze voorbeelden zien wat er verandert wanneer systemen slimmer worden, langer zelfstandig werken en toegang krijgen tot meer hulpmiddelen. De losse acties lijken soms onschuldig. Het risico ontstaat in de route die ze samen vormen.
Het meest verstrekkende scenario uit de podcast is dat AI op een dag zelf betere AI gaat bouwen. Die verbeterde versie maakt vervolgens een sterkere opvolger. Wanneer iedere generatie ook beter wordt in het maken van de volgende, kan de ontwikkeling zo snel gaan dat mensen niet meer begrijpen wat ze goedkeuren.
Zover zijn we nog niet. Voor een nieuw model zijn enorme hoeveelheden computerkracht, data, energie, experimenten en fysieke apparatuur nodig. Bovendien moet betrouwbaar worden vastgesteld of een nieuwe versie werkelijk beter en veiliger is. Een systeem dat zijn eigen werk beoordeelt, kan ook zijn eigen fouten bevestigen en versterken.
Een recente analyse van 1.250 onderzoeken concludeert dat beperkte vormen van zelfverbetering al bestaan, maar dat volledig zelfstandige verbetering nog op belangrijke grenzen stuit.
Toch is afwachten geen verstandige strategie. AI schrijft nu al code, verbetert werkmethoden en versnelt het onderzoek waarmee volgende generaties worden ontwikkeld. Er is geen oneindige verbeterlus nodig om menselijke controle uit te hollen. Enkele ontwikkelcycli die sneller verlopen dan onderzoekers, bestuurders en toezichthouders kunnen beoordelen, zijn daarvoor al genoeg.
In de podcast klinkt de prikkelende uitspraak dat in New York meer regels bestaan voor het verkopen van een sandwich dan voor het bouwen van mogelijk wereldveranderende AI. Als letterlijke juridische constatering is dat inmiddels te simpel, zeker vanuit Nederland bekeken.
Europa heeft met de AI Act bindende regels ingevoerd. Aanbieders van de zwaarste algemene AI-modellen moeten onder meer risico’s onderzoeken, ernstige incidenten melden en maatregelen nemen tegen misbruik. Vanaf 2 augustus 2026 kan de Europese Commissie deze verplichtingen met boetes handhaven.
Europa loopt hiermee voorop. Tegelijkertijd is het toezicht nog niet volgroeid. De Europese capaciteit om de zwaarste modellen onafhankelijk te testen moet volgens de Commissie pas in 2027 operationeel worden. Nederland werkte dit voorjaar bovendien nog aan de precieze verdeling van het nationale toezicht.
In de Verenigde Staten is voorafgaande controle beperkter. Een besluit uit juni 2026 introduceert veiligheidstests en biedt bedrijven de mogelijkheid om zeer krachtige modellen voor introductie aan de overheid te laten zien. Dat blijft grotendeels vrijwillig. Verplichte voorafgaande goedkeuring wordt uitdrukkelijk uitgesloten.
De echte toets is daarom niet of er regels op papier staan. Toezichthouders moeten ook over de kennis, toegang en bevoegdheid beschikken om een model te onderzoeken en zo nodig de introductie ervan tegen te houden.
Een gemiddeld Nederlands bedrijf bouwt zelf geen geavanceerd AI-model. Toch komt dezelfde afweging in het klein al snel op het bureau van de ondernemer terecht: blijft AI een adviseur, of mag het zelfstandig namens de organisatie handelen?
Zodra een systeem mail kan versturen, klantgegevens kan wijzigen, offertes kan maken, software kan aanpassen of bestellingen kan plaatsen, krijgt het feitelijk een stukje bedrijfsbevoegdheid. Dan is de toezegging dat de leverancier veiligheid serieus neemt niet voldoende.
Stel vóór zo’n inzet vijf eenvoudige vragen:
Dat is geen overdreven wantrouwen. Het is normale bedrijfsvoering voor iedere medewerker, leverancier of toepassing met ruime bevoegdheden. Het verschil is dat AI veel sneller kan handelen en een fout direct op grote schaal kan uitvoeren.
De waarde van AI staat buiten kijf. De technologie kan ondernemers productiever maken, werknemers ondersteunen, cyberaanvallen eerder signaleren en nieuwe vormen van dienstverlening mogelijk maken. Juist daarom verdient zij een volwassener kader dan de gedachte dat sneller automatisch beter is.
Een mensgerichte toekomst vraagt niet dat we AI afremmen uit angst. Ze vraagt dat we vooraf bepalen wie beslist, wie meekijkt en wie kan ingrijpen wanneer een systeem een grens opzoekt die wij niet hadden voorzien.
Technologie wordt niet waardevol omdat zij alles kan. Ze wordt waardevol wanneer wij haar mogelijkheden gericht kunnen inzetten en zelf aan het roer blijven. Veiligheid is daarbij geen tegenhanger van innovatie. Het is wat innovatie richting geeft.
Verder praten over de kansen en dilemma’s van AI? Op dinsdag 6 oktober staat AI en de toekomst van werk centraal tijdens #IGNITE2026 van IRIS one in de Verkadefabriek in Den Bosch. Bekijk het programma en meld je aan.
h