---
title: "Från human in the loop till human in control: vad de fem nivåerna av AI-driven utveckling betyder för ett säkerhetsföretag | Guardian360"
description: "Dan Shapiros fem nivåer av AI-driven mjukvaruutveckling, från spicy autocomplete till dark factory, och vad det innebär att nå nivå fyra för ett företag som bygger säkerhetsmjukvara. Varför den verkliga frågan inte är om en människa är med i loopen, utan om människor behåller kontrollen."
url: https://guardian360.net/sv/blog/from-human-in-the-loop-to-human-in-control/
locale: en
source: guardian360.net
---
[← Alla inlägg](https://guardian360.net/sv/blog/)

Opinion

# Från human in the loop till human in control: vad de fem nivåerna av AI-driven utveckling betyder för ett säkerhetsföretag

Av Jan Martijn Broekhof · 14 november 2026

Jag har en bekännelse att göra. I vårt utvecklingsteam läser det nästan ingen som helst kod rad för rad längre. För ett år sedan hade jag kallat det vårdslöst, särskilt för ett företag som bygger säkerhetsmjukvara. Idag är jag övertygad om motsatsen: verktygen vi använder granskar vår kod noggrannare än vi själva någonsin gjorde.

Två nyligen lästa verk hjälpte mig att sätta ord på det vi upplever. Det första är Dan Shapiros blogginlägg The Five Levels, publicerat i januari 2026, som beskriver fem nivåer av AI-driven mjukvaruutveckling, från “spicy autocomplete” (kryddstark autocomplete) till “dark factory” (den mörka fabriken). Det andra är Ethan Mollicks nya bok Co-Existence, utgiven i oktober 2026, om att leva och arbeta tillsammans med maskiner som ibland är smartare än vi själva. När jag läste dem sida vid sida insåg jag att vårt företag har nått nivå fyra och sakta växer mot nivå fem. Ännu viktigare: jag insåg att ett av branschens mest seglivade antaganden förtjänar att ses över, nämligen tanken att en människa alltid måste vara “human in the loop” (med i loopen).

## Vilka är de fem nivåerna av AI-driven mjukvaruutveckling?

Shapiro hämtar sitt ramverk från nivåerna för automatiserad körning. På nivå noll skrivs varje tecken av en människa. På nivå ett lämnar du över små, avgränsade uppgifter, till exempel att skriva ett unit test. På nivå två parprogrammerar du med AI som med en kollega; enligt Shapiro är det här de flesta självutnämnda “AI-native” utvecklare befinner sig. På nivå tre skriver AI koden och utvecklaren blir granskare som tillbringar dagen med att läsa diffs. Shapiro konstaterar att nästan alla stannar där.

Nivå fyra är annorlunda. Utvecklaren är inte längre utvecklare, inte heller utvecklingschef, utan något som liknar en produktchef. Du skriver specifikationen, du bråkar med den, du bygger de färdigheter (skills) som dina agenter använder, du granskar planer, och sedan går du därifrån och kontrollerar senare om testerna går igenom. Nivå fem är det Shapiro kallar dark factory: en svart låda som förvandlar specifikationer till mjukvara, uppkallad efter robotfabrikerna där människor varken behövs eller är välkomna.

Våra ingenjörer lägger nu sin tid på specifikationer, skills och testdesign i stället för på att läsa diffs. Det är nivå fyra. Vi är inte på nivå fem, eftersom människor fortfarande bestämmer vad som ska byggas, hur det testas och vad som får gå i produktion. Som jag kommer att förklara är jag inte säker på att vi någonsin vill att ljuset ska släckas helt.

## Är det säkert att låta AI skriva säkerhetsmjukvara?

Det är en rimlig fråga, och en som jag har ställt mig själv många gånger. Bevisen för att okontrollerad AI-genererad kod är riskabel är verkliga. En forskningsnotis från Cloud Security Alliance hänvisar till en analys av CodeRabbit av verkliga pull requests, som visade att AI-genererad kod innehöll 2,74 gånger fler säkerhetsproblem än kod skriven av människor. En omfattande akademisk jämförelse publicerad 2025 kom fram till en liknande slutsats: AI-genererad kod tenderar att vara enklare, men har större risk att innehålla allvarliga sårbarheter.

Vissa företag har gått mycket längre än vi. I februari 2026 beskrev AI-teamet på StrongDM, ett företag som bygger programvara för åtkomsthantering och säkerhet, sin “Software Factory”, som styrs av två regler: kod får inte skrivas av människor, och kod får inte granskas av människor. Simon Willison, som besökte teamet, noterade att säkerhetsmjukvara är det sista man skulle förvänta sig att se byggt på det sättet. Forskare vid Stanford Law School framförde en vassare invändning: när samma typ av teknik både skriver koden och bedömer om den fungerar riskerar du ett cirkulärt system som rättar sina egna prov.

Jag tar båda invändningarna på allvar. Men läser man noga pekar de mot samma slutsats. Risken ligger inte i att AI skriver koden. Den ligger i bristen på seriös, oberoende verifiering. Det är där det verkliga arbetet finns.

## Kan AI granska kod bättre än människor?

Länge utgick vi från att människor måste kontrollera AI:ns arbete. I praktiken har vi upptäckt att AI är mycket bättre på att kontrollera människors arbete, och andra AI-system.

Det här är inte önsketänkande. När OpenSSL, en av världens mest granskade kodbaser, publicerade tolv nya sårbarheter i januari 2026 hade alla tolv enligt företaget självt upptäckts av AI-systemet från säkerhetsstartupen AISLE. I sin rapport The Bugpocalypse Threshold från maj 2026 beskriver Cloud Security Alliance hur AI-verktyg nu kan granska miljontals rader kod på timmar i stället för veckor. Rapporten noterar också att Googles agent Big Sleep blev den första dokumenterade AI-agenten som hittade en tidigare okänd, utnyttjningsbar sårbarhet i vitt spridd mjukvara, databasen SQLite, utan mänsklig styrning.

Låt oss vara ärliga om mänsklig granskning. Vi blir trötta. Vi skummar. Vi litar på en kollega vars arbete alltid har varit bra. Vi godkänner den stora pull requesten en fredagseftermiddag eftersom den ser rimlig ut. En välinstruerad maskingranskare gör ingenting av detta. Att gå bort från manuell granskning kändes obehagligt i början, nästan som att släppa ratten. Det ändrades när vi gång på gång såg att verktygen fångade det vi själva skulle ha missat.

Regelbundna läsare kanske märker en förändring. I oktober skrev jag att varje ändring i vårt företag granskas av en person som förstår den innan den når produktion. På ett sätt gäller det fortfarande: en människa bestämmer vad som går i produktion. Det som har förändrats under veckorna sedan dess är vem, eller vad, som gör själva läsningen. Granskningen rad för rad har flyttat till våra verktyg, eftersom de visade sig vara mer grundliga än vi var.

Det betyder inte att AI-skriven kod är säker som standard. Forskningen ovan visar tydligt att den inte är det. Det betyder att verifiering med AI, om den är väl utformad och lagd i flera lager, är mer grundlig än verifiering enbart med människor.

## Var finns kontrollen egentligen?

“Human in the loop” innebär att en människa kontrollerar varje steg. “Human in control” innebär att människor utformar systemet som gör kontrollen och bestämmer vad som är tillräckligt bra (“good”). Tänk på en flygplanspilot. Autopiloten flyger större delen av resan, men ingen anser att piloten är överflödig. Piloten har befälet, men är inte med i loopen för varje enskild justering.

På Guardian360 börjar kontrollen innan en enda rad kod har skrivits. Våra specifikationer beskriver inte bara användningsfall utan också missbruksfall: hur skulle den här funktionen kunna missbrukas, och av vem? Vi har instruerat våra AI-verktyg att vara kritiska och uttryckligen att inte bete sig som en “helpful intern” (en hjälpsam praktikant). En hjälpsam praktikant vill göra dig till lags, och en agent som vill göra dig till lags skriver kod som klarar testet i stället för kod som är rätt. Bakom det finns de lager man förväntar sig i vilken mogen miljö som helst: linting, härdning, segmentering och role-based access control, tillsammans med funktionella tester, integrationstester och unit tests. Flera modeller granskar koden ur olika vinklar, så att ingen enskild modell godkänner sitt eget arbete.

Ett val betyder mer än det kanske verkar. Vi kör en open-weight model själva, i vårt eget servercluster i Nederländerna, med våra egna skills, förmågor och vår egen harness, och ett fast test som varje modell måste klara innan vi litar på den. När du äger din harness bestämmer du vad agenter kan se, röra och göra. Kontroll handlar inte bara om tillsyn; det handlar också om ägande.

## Vad händer när koden inte längre är flaskhalsen?

I oktober beskrev jag hur vi [byggde om vår plattform på ungefär tre månader](https://guardian360.net/sv/blog/we-now-build-in-three-months-what-took-us-three-years/), ett arbete som tidigare tog mer än tre år. Begränsningen har flyttat från att bygga till att implementera: att hålla partners informerade och att hålla produkten enkel. När det nästan inte kostar något att bygga är den disciplin vi behöver inte disciplinen att leverera, utan disciplinen att säga nej. Hastighet kontra säkerhet är fortfarande min största oro, och det är precis därför vi investerar i verifiering i stället för i fler händer på tangentbordet.

## Vad händer med utvecklare när kodning inte längre är jobbet?

Jag har tidigare skrivit om [den mänskliga kostnaden för AI-assisterad utveckling](https://guardian360.net/sv/blog/ai-took-away-the-typing-not-the-thinking/) och om [vad den gör med en organisations underström](https://guardian360.net/sv/blog/ai-agents-need-no-social-maintenance/). Steget från nivå tre till nivå fyra ger en vändning jag inte väntade mig. Forskning som jag har citerat tidigare visade att det mest mentalt krävande sättet att använda AI är att övervaka den, och att läsa diffs hela dagen är precis det. På nivå fyra slutar ingenjörerna att utföra kontrollerna och börjar utforma dem: de skriver specifikationer, definierar missbruksfall och avgör hur “good” ser ut. Det är intellektuellt mer krävande, men det kan mycket väl vara mindre uttröttande.

Shapiro skojar om att du på nivå fyra har blivit det du tidigare avskydde, en projektledare. I vårt team känns det mer som att bli en arkitekt av förtroende. Inte alla omfamnar det direkt, och som ledare tycker jag att det är viktigt att säga det högt. För vissa känns det som en förlust av hantverksskicklighet att släppa koden, och ett teams kultur formas av vad människor ägnar sina dagar åt.

## Nivå fem, med ljuset på

Shapiros dark factory är en plats där människor varken behövs eller är välkomna. Dit är vi inte på väg. Vi växer mot nivå fem i den meningen att allt mer av processen går autonomt, från specifikation till fungerande mjukvara. Men ljuset förblir tänt.

Inte för att vi misstror maskinerna, utan för att ansvar inte kan delegeras till en fabrik. Våra partners och deras kunder litar inte på oss för att en människa har läst varje rad kod. De litar på oss för att människor förblir ansvariga för systemet som producerar den, och för besluten om vad den får göra.

Så jag vill lämna dig med två frågor. Var befinner sig ditt utvecklingsteam på Shapiros skala? Och när något går fel, kan du då säga vem som hade kontrollen, och inte bara vem som var med i loopen?

## Källor

- Dan Shapiro, “The Five Levels: from Spicy Autocomplete to the Dark Factory” (23 januari 2026), [https://www.danshapiro.com/blog/2026/01/the-five-levels-from-spicy-autocomplete-to-the-software-factory/](https://www.danshapiro.com/blog/2026/01/the-five-levels-from-spicy-autocomplete-to-the-software-factory/)
- Ethan Mollick, “Co-Existence: The Next Phase of AI” (Portfolio / Penguin Random House, oktober 2026), [https://co-existence.ai/](https://co-existence.ai/)
- Simon Willison, “How StrongDM’s AI team build serious software without even looking at the code” (7 februari 2026), [https://simonwillison.net/2026/feb/7/software-factory/](https://simonwillison.net/2026/feb/7/software-factory/)
- Stanford Law School, “Built by Agents, Tested by Agents, Trusted by Whom?” (2026), [https://law.stanford.edu/?p=557739](https://law.stanford.edu/?p=557739)
- Cloud Security Alliance, “Vibe Coding Security Crisis: Credential Sprawl and SDLC Debt” (forskningsnotis, 2026), [https://labs.cloudsecurityalliance.org/research/csa-research-note-ai-generated-code-security-vibe-coding-202/](https://labs.cloudsecurityalliance.org/research/csa-research-note-ai-generated-code-security-vibe-coding-202/)
- “Human-Written vs. AI-Generated Code: A Large-Scale Study of Defects, Vulnerabilities, and Complexity” (arXiv, 2025), [https://arxiv.org/pdf/2508.21634](https://arxiv.org/pdf/2508.21634)
- Cloud Security Alliance, “The Bugpocalypse Threshold” (21 maj 2026), [https://labs.cloudsecurityalliance.org/research/ai-accelerated-vuln-discovery-patch-capacity-whitepaper-v1-0/](https://labs.cloudsecurityalliance.org/research/ai-accelerated-vuln-discovery-patch-capacity-whitepaper-v1-0/)
- AISLE, “AI found 12 of 12 OpenSSL zero-days” (januari 2026), [https://www.greaterwrong.com/posts/7aJwgbMEiKq5egQbd/ai-found-12-of-12-openssl-zero-days-while-curl-cancelled-its](https://www.greaterwrong.com/posts/7aJwgbMEiKq5egQbd/ai-found-12-of-12-openssl-zero-days-while-curl-cancelled-its)
- Guardian360, “We now build in three months what took us three years” (12 oktober 2026), [https://guardian360.net/sv/blog/we-now-build-in-three-months-what-took-us-three-years/](https://guardian360.net/sv/blog/we-now-build-in-three-months-what-took-us-three-years/)
- Guardian360, “AI took away the typing, not the thinking” (19 oktober 2026), [https://guardian360.net/sv/blog/ai-took-away-the-typing-not-the-thinking/](https://guardian360.net/sv/blog/ai-took-away-the-typing-not-the-thinking/)
- Guardian360, “AI agents need no social maintenance. Your organisation does” (25 oktober 2026), [https://guardian360.net/sv/blog/ai-agents-need-no-social-maintenance/](https://guardian360.net/sv/blog/ai-agents-need-no-social-maintenance/)
- Guardian360, “We tested our self-hosted LLMs and accidentally built a game” (1 oktober 2026), [https://guardian360.net/sv/blog/we-tested-our-self-hosted-llms-and-accidentally-built-a-game/](https://guardian360.net/sv/blog/we-tested-our-self-hosted-llms-and-accidentally-built-a-game/)
