---
title: "Van human in the loop naar human in control: wat de vijf niveaus van AI-gedreven softwareontwikkeling betekenen voor een securitybedrijf | Guardian360"
description: "Dan Shapiro's vijf niveaus van AI-gedreven softwareontwikkeling, van spicy autocomplete tot de dark factory, en wat niveau vier betekent voor een bedrijf dat securitysoftware bouwt. Waarom de echte vraag niet is of er een mens in the loop zit, maar of mensen de controle houden."
url: https://guardian360.net/nl/blog/from-human-in-the-loop-to-human-in-control/
locale: nl
source: guardian360.net
---
[← Alle posts](https://guardian360.net/nl/blog/)

Opinie

# Van human in the loop naar human in control: wat de vijf niveaus van AI-gedreven softwareontwikkeling betekenen voor een securitybedrijf

Door Jan Martijn Broekhof · 14 november 2026

Ik moet iets bekennen. In ons ontwikkelteam leest bijna niemand nog code regel voor regel. Een jaar geleden zou ik dat nalatig hebben genoemd, zeker voor een bedrijf dat securitysoftware bouwt. Vandaag ben ik van het tegendeel overtuigd: de tools die wij gebruiken controleren onze code zorgvuldiger dan wij dat zelf ooit deden.

Twee recente leesstukken hielpen me om woorden te geven aan wat we meemaken. Het eerste is Dan Shapiro’s blog The Five Levels, gepubliceerd in januari 2026, dat vijf niveaus van AI-gedreven softwareontwikkeling beschrijft, van “spicy autocomplete” tot de “dark factory”. Het tweede is Ethan Mollicks nieuwe boek Co-Existence, verschenen in oktober 2026, over leven en werken naast machines die soms slimmer zijn dan wij. Toen ik ze naast elkaar las, besefte ik dat ons bedrijf niveau vier heeft bereikt en langzaam richting niveau vijf groeit. Belangrijker nog: ik besefte dat een van de hardnekkigste aannames in onze sector herzien moet worden, namelijk het idee dat er altijd een mens in the loop moet zitten.

## Wat zijn de vijf niveaus van AI-gedreven softwareontwikkeling?

Shapiro leent zijn raamwerk van de niveaus van autonoom rijden. Op niveau nul typt een mens elk teken. Op niveau één geef je kleine, afgebakende taken uit handen, zoals het schrijven van een unit test. Op niveau twee werk je samen met AI als met een collega; volgens Shapiro leven de meeste zelfverklaarde “AI-native” ontwikkelaars hier. Op niveau drie schrijft de AI de code en wordt de ontwikkelaar een reviewer die de hele dag diffs leest. Shapiro merkt op dat bijna iedereen daar blijft steken.

Niveau vier is anders. De ontwikkelaar is geen ontwikkelaar meer, en ook geen development manager, maar iets wat dichter bij een productmanager ligt. Je schrijft de specificatie, je discussieert ermee, je bouwt de skills die je agents gebruiken, je beoordeelt plannen, en dan loop je weg en kijk je later of de tests slagen. Niveau vijf is wat Shapiro de dark factory noemt: een zwarte doos die specificaties omzet in software, vernoemd naar de robotfabrieken waar mensen niet nodig en niet welkom zijn.

Onze engineers besteden hun tijd nu aan specificaties, skills en testontwerp in plaats van aan het lezen van diffs. Dat is niveau vier. Niveau vijf zijn we niet, want mensen beslissen nog steeds wat er gebouwd wordt, hoe het getest wordt en wat er in productie mag komen. Zoals ik zal uitleggen, weet ik niet zeker of we het licht ooit helemaal willen uitdoen.

## Is het veilig om AI securitysoftware te laten schrijven?

Het is een terechte vraag, en ik heb haar mezelf vaak gesteld. Het bewijs dat ongecontroleerde AI-gegenereerde code risicovol is, is reëel. Een research note van de Cloud Security Alliance verwijst naar een analyse van CodeRabbit van echte pull requests, waaruit bleek dat AI-gegenereerde code 2.74 keer meer beveiligingsproblemen bevatte dan code die door mensen was geschreven. Een grootschalige academische vergelijking uit 2025 kwam tot een vergelijkbare conclusie: AI-gegenereerde code is doorgaans eenvoudiger, maar bevat vaker ernstige kwetsbaarheden.

Sommige bedrijven zijn veel verder gegaan dan wij. In februari 2026 beschreef het AI-team van StrongDM, een bedrijf dat software voor toegangsbeheer en beveiliging bouwt, zijn “Software Factory”, die wordt beheerst door twee regels: code mag niet door mensen worden geschreven, en code mag niet door mensen worden beoordeeld. Simon Willison, die het team bezocht, merkte op dat securitysoftware het laatste is waarvan je zou verwachten dat het zo wordt gebouwd. Onderzoekers van Stanford Law School maakten een scherper bezwaar: wanneer dezelfde klasse technologie zowel de code schrijft als beoordeelt of die werkt, riskeer je een circulair systeem dat zijn eigen huiswerk nakijkt.

Ik neem beide punten serieus. Maar goed gelezen wijzen ze naar dezelfde conclusie. Het risico zit niet in het feit dat AI de code schrijft. Het zit in het ontbreken van serieuze, onafhankelijke verificatie. Daar ligt het echte werk.

## Kan AI code beter reviewen dan mensen?

Lange tijd gingen we ervan uit dat mensen het werk van AI moesten controleren. Wat we in de praktijk hebben ontdekt, is dat AI veel beter is in het controleren van het werk van mensen, en van andere AI.

Dit is geen wishful thinking. Toen OpenSSL, een van de meest doorgelichte codebases ter wereld, in januari 2026 twaalf nieuwe kwetsbaarheden publiceerde, waren alle twaalf ontdekt door het AI-systeem van de securitystart-up AISLE, aldus het bedrijf zelf. In zijn paper The Bugpocalypse Threshold van mei 2026 beschrijft de Cloud Security Alliance hoe AI-tools nu miljoenen regels code in uren kunnen reviewen in plaats van in weken. Het merkt ook op dat Google’s Big Sleep-agent de eerste gedocumenteerde AI-agent werd die zonder menselijke aansturing een eerder onbekende, uitbuitbare fout vond in veelgebruikte software, de SQLite-database.

Laten we eerlijk zijn over menselijke review. We worden moe. We scannen oppervlakkig. We vertrouwen een collega wiens werk altijd goed was. We keuren de grote pull request op vrijdagmiddag goed omdat hij redelijk oogt. Een goed geïnstrueerde machinale reviewer doet niets van dat alles. Afstappen van handmatige review voelde in het begin ongemakkelijk, bijna alsof je het stuur loslaat. Dat veranderde toen we steeds weer zagen dat de tools opvingen wat wij zouden hebben gemist.

Vaste lezers merken misschien een verschuiving op. In oktober schreef ik dat elke wijziging bij ons bedrijf wordt beoordeeld door iemand die haar begrijpt voordat ze in productie komt. In één opzicht geldt dat nog steeds: een mens beslist wat er in productie gaat. Wat er de afgelopen weken is veranderd, is wie of wat het lezen doet. De review regel voor regel is verhuisd naar onze tools, omdat die grondiger bleken te zijn dan wij.

Dit betekent niet dat door AI geschreven code standaard veilig is. Het onderzoek hierboven maakt duidelijk dat dat niet zo is. Het betekent dat verificatie door AI, mits goed ontworpen en in lagen opgebouwd, grondiger is dan verificatie door alleen mensen.

## Waar zit de controle eigenlijk?

“Human in the loop” betekent dat een mens elke stap controleert. “Human in control” betekent dat mensen het systeem ontwerpen dat de controle uitvoert, en bepalen wat goed genoeg is. Denk aan een verkeersvlieger. De piloot vliegt het grootste deel van de reis op de automatische piloot, en toch vindt niemand de piloot overbodig. De piloot voert het bevel, en zit niet in the loop van elke bijsturing.

Bij Guardian360 begint de controle voordat er ook maar één regel code is geschreven. Onze specificaties beschrijven niet alleen use cases maar ook abuse cases: hoe kan deze functie misbruikt worden, en door wie? We hebben onze AI-tools opgedragen kritisch te zijn en nadrukkelijk niet te gedragen als een “helpful intern”. Een behulpzame stagiair wil je een plezier doen, en een agent die je een plezier wil doen schrijft code die de test haalt in plaats van code die klopt. Daaronder zitten de lagen die je in elke volwassen omgeving verwacht: linting, hardening, segmentatie en role-based access control, samen met functionele tests, integratietests en unit tests. Meerdere modellen reviewen de code vanuit verschillende invalshoeken, zodat geen enkel model zijn eigen werk afvinkt.

Eén keuze is belangrijker dan ze lijkt. We draaien zelf een open-weight model, in ons eigen servercluster in Nederland, met onze eigen skills, capabilities en harness, en een vaste test die elk model moet doorstaan voordat we het vertrouwen. Wanneer jij de harness bezit, bepaal jij wat agents kunnen zien, aanraken en doen. Controle is niet alleen een kwestie van toezicht; het is ook een kwestie van eigenaarschap.

## Wat gebeurt er als code niet langer de bottleneck is?

In oktober beschreef ik hoe we [Lighthouse in ongeveer drie maanden hebben herbouwd](https://guardian360.net/nl/blog/we-now-build-in-three-months-what-took-us-three-years/), werk waar we voorheen meer dan drie jaar over deden. De beperking is verschoven van bouwen naar implementatie: partners op de hoogte houden en het product eenvoudig houden. Als bouwen vrijwel niets kost, is de discipline die we nodig hebben niet de discipline om te leveren, maar de discipline om nee te zeggen. Snelheid versus veiligheid blijft mijn grootste zorg, en juist daarom investeren we in verificatie en niet in meer handen op toetsenborden.

## Wat gebeurt er met ontwikkelaars als coderen niet meer het werk is?

Ik heb eerder geschreven over [de menselijke kosten van AI-ondersteund ontwikkelen](https://guardian360.net/nl/blog/ai-took-away-the-typing-not-the-thinking/) en over [wat het doet met de onderstroom van een organisatie](https://guardian360.net/nl/blog/ai-agents-need-no-social-maintenance/). De stap van niveau drie naar niveau vier voegt een wending toe die ik niet had verwacht. Onderzoek dat ik eerder aanhaalde, liet zien dat toezicht houden op AI de mentaal zwaarste vorm van AI-gebruik is, en de hele dag diffs lezen is precies dat. Op niveau vier stoppen engineers met het uitvoeren van de controles en gaan ze ze ontwerpen: specificaties schrijven, abuse cases definiëren en bepalen hoe “good” eruitziet. Dat is intellectueel veeleisender, maar het is misschien wel minder uitputtend.

Shapiro grapt dat je op niveau vier bent geworden wat je vroeger verafschuwde, een projectmanager. In ons team voelt het meer als architect van vertrouwen worden. Niet iedereen omarmt dat meteen, en als leider vind ik het belangrijk dat hardop te zeggen. Voor sommigen voelt het loslaten van de code als een verlies aan vakmanschap, en de cultuur van een team wordt gevormd door waar mensen hun dagen mee vullen.

## Niveau vijf, met het licht aan

Shapiro’s dark factory is een plek waar mensen niet nodig en niet welkom zijn. Daar gaan wij niet heen. We groeien naar niveau vijf in de zin dat steeds meer van het proces autonoom verloopt, van specificatie tot werkende software. Maar het licht blijft aan.

Niet omdat we de machines wantrouwen, maar omdat verantwoordelijkheid niet aan een fabriek kan worden gedelegeerd. Onze partners en hun klanten vertrouwen ons niet omdat een mens elke regel code heeft gelezen. Ze vertrouwen ons omdat mensen verantwoordelijk blijven voor het systeem dat de code produceert, en voor de beslissingen over wat dat systeem mag doen.

Ik laat je daarom achter met twee vragen. Waar staat jouw ontwikkelteam op Shapiro’s schaal? En als er iets misgaat, kun je dan zeggen wie de controle had, en niet alleen wie in the loop zat?

## Bronnen

- Dan Shapiro, “The Five Levels: from Spicy Autocomplete to the Dark Factory” (23 januari 2026), [https://www.danshapiro.com/blog/2026/01/the-five-levels-from-spicy-autocomplete-to-the-software-factory/](https://www.danshapiro.com/blog/2026/01/the-five-levels-from-spicy-autocomplete-to-the-software-factory/)
- Ethan Mollick, “Co-Existence: The Next Phase of AI” (Portfolio / Penguin Random House, oktober 2026), [https://co-existence.ai/](https://co-existence.ai/)
- Simon Willison, “How StrongDM’s AI team build serious software without even looking at the code” (7 februari 2026), [https://simonwillison.net/2026/feb/7/software-factory/](https://simonwillison.net/2026/feb/7/software-factory/)
- Stanford Law School, “Built by Agents, Tested by Agents, Trusted by Whom?” (2026), [https://law.stanford.edu/?p=557739](https://law.stanford.edu/?p=557739)
- Cloud Security Alliance, “Vibe Coding Security Crisis: Credential Sprawl and SDLC Debt” (research note, 2026), [https://labs.cloudsecurityalliance.org/research/csa-research-note-ai-generated-code-security-vibe-coding-202/](https://labs.cloudsecurityalliance.org/research/csa-research-note-ai-generated-code-security-vibe-coding-202/)
- “Human-Written vs. AI-Generated Code: A Large-Scale Study of Defects, Vulnerabilities, and Complexity” (arXiv, 2025), [https://arxiv.org/pdf/2508.21634](https://arxiv.org/pdf/2508.21634)
- Cloud Security Alliance, “The Bugpocalypse Threshold” (21 mei 2026), [https://labs.cloudsecurityalliance.org/research/ai-accelerated-vuln-discovery-patch-capacity-whitepaper-v1-0/](https://labs.cloudsecurityalliance.org/research/ai-accelerated-vuln-discovery-patch-capacity-whitepaper-v1-0/)
- AISLE, “AI found 12 of 12 OpenSSL zero-days” (januari 2026), [https://www.greaterwrong.com/posts/7aJwgbMEiKq5egQbd/ai-found-12-of-12-openssl-zero-days-while-curl-cancelled-its](https://www.greaterwrong.com/posts/7aJwgbMEiKq5egQbd/ai-found-12-of-12-openssl-zero-days-while-curl-cancelled-its)
- Guardian360, “We now build in three months what took us three years” (12 oktober 2026), [https://guardian360.net/nl/blog/we-now-build-in-three-months-what-took-us-three-years/](https://guardian360.net/nl/blog/we-now-build-in-three-months-what-took-us-three-years/)
- Guardian360, “AI took away the typing, not the thinking” (19 oktober 2026), [https://guardian360.net/nl/blog/ai-took-away-the-typing-not-the-thinking/](https://guardian360.net/nl/blog/ai-took-away-the-typing-not-the-thinking/)
- Guardian360, “AI agents need no social maintenance. Your organisation does” (25 oktober 2026), [https://guardian360.net/nl/blog/ai-agents-need-no-social-maintenance/](https://guardian360.net/nl/blog/ai-agents-need-no-social-maintenance/)
- Guardian360, “We tested our self-hosted LLMs and accidentally built a game” (1 oktober 2026), [https://guardian360.net/nl/blog/we-tested-our-self-hosted-llms-and-accidentally-built-a-game/](https://guardian360.net/nl/blog/we-tested-our-self-hosted-llms-and-accidentally-built-a-game/)
