---
title: "Da human in the loop a human in control: cosa significano i cinque livelli dello sviluppo guidato dall'AI per un'azienda di sicurezza | Guardian360"
description: "I cinque livelli dello sviluppo software guidato dall'AI secondo Dan Shapiro, dallo \"spicy autocomplete\" alla \"dark factory\", e cosa significa arrivare al livello quattro per un'azienda che sviluppa software di sicurezza. Perché la vera domanda non è se un essere umano sia nel ciclo, ma se gli esseri umani restino al controllo."
url: https://guardian360.net/it/blog/from-human-in-the-loop-to-human-in-control/
locale: en
source: guardian360.net
---
[← Tutti i post](https://guardian360.net/it/blog/)

Opinione

# Da human in the loop a human in control: cosa significano i cinque livelli dello sviluppo guidato dall'AI per un'azienda di sicurezza

Di Jan Martijn Broekhof · 14 novembre 2026

Devo fare una confessione. Nel nostro team di sviluppo quasi nessuno legge più il codice riga per riga. Un anno fa lo avrei definito negligente, soprattutto per un’azienda che sviluppa software di sicurezza. Oggi sono convinto del contrario: gli strumenti che usiamo controllano il nostro codice con più attenzione di quanta ne abbiamo mai messa noi.

Due letture recenti mi hanno aiutato a dare un nome a ciò che stiamo vivendo. La prima è il blog The Five Levels di Dan Shapiro, pubblicato a gennaio 2026, che descrive cinque livelli di sviluppo software guidato dall’AI, dallo “spicy autocomplete” (un autocompletamento piccante) alla “dark factory”. La seconda è il nuovo libro di Ethan Mollick, Co-Existence, uscito a ottobre 2026, su come vivere e lavorare accanto a macchine che a volte sono più intelligenti di noi. Leggendoli uno accanto all’altro, ho capito che la nostra azienda ha raggiunto il livello quattro e sta crescendo piano piano verso il livello cinque. Soprattutto ho capito che una delle convinzioni più radicate del nostro settore merita di essere rivista: l’idea che un essere umano debba sempre essere “in the loop”.

## Quali sono i cinque livelli dello sviluppo software guidato dall’AI?

Shapiro prende in prestito il suo schema dai livelli di automazione della guida. Al livello zero, ogni carattere viene digitato da una persona. Al livello uno, deleghi compiti piccoli e ben definiti, come scrivere un unit test. Al livello due lavori in coppia con l’AI come con un collega; secondo Shapiro è qui che vive la maggior parte degli sviluppatori che si dichiarano “AI-native”. Al livello tre è l’AI a scrivere il codice, e lo sviluppatore diventa un revisore che passa la giornata a leggere diffs. Shapiro osserva che quasi tutti si fermano lì.

Il livello quattro è diverso. Lo sviluppatore non è più uno sviluppatore, né un responsabile di sviluppo, ma qualcosa di più simile a un product manager. Scrivi la specifica, la metti in discussione, costruisci le skill che usano i tuoi agenti, rivedi i piani, e poi ti allontani e controlli più tardi se i test sono passati. Il livello cinque è ciò che Shapiro chiama la dark factory: una scatola nera che trasforma le specifiche in software, e che prende il nome dalle fabbriche di robot in cui gli esseri umani non servono e non sono i benvenuti.

I nostri ingegneri oggi dedicano il loro tempo a specifiche, skill e progettazione dei test, anziché alla lettura dei diffs. Questo è il livello quattro. Non siamo al livello cinque, perché sono ancora le persone a decidere cosa viene costruito, come viene testato e cosa può arrivare in produzione. Come spiegherò, non sono sicuro che vorremo mai spegnere del tutto le luci.

## È sicuro lasciare che l’AI scriva software di sicurezza?

È una domanda legittima, e me la sono posta molte volte. Le prove che il codice generato dall’AI senza controlli sia rischioso sono concrete. Una nota di ricerca della Cloud Security Alliance cita un’analisi di CodeRabbit su pull request reali, dalla quale risulta che il codice generato dall’AI conteneva 2,74 volte più problemi di sicurezza rispetto al codice scritto da esseri umani. Un confronto accademico su larga scala, pubblicato nel 2025, è arrivato a una conclusione simile: il codice generato dall’AI tende a essere più semplice, ma ha più probabilità di contenere vulnerabilità di alta gravità.

Alcune aziende sono andate molto più lontano di noi. A febbraio 2026 il team AI di StrongDM, un’azienda che sviluppa software di gestione degli accessi e di sicurezza, ha descritto la sua “Software Factory”, governata da due regole: il codice non deve essere scritto da esseri umani, e il codice non deve essere rivisto da esseri umani. Simon Willison, che ha visitato il team, ha osservato che il software di sicurezza è l’ultima cosa che ti aspetteresti di veder costruire in questo modo. I ricercatori della Stanford Law School hanno sollevato un’obiezione più netta: quando la stessa classe di tecnologia scrive il codice e giudica anche se funziona, si rischia un sistema circolare che si corregge i compiti da solo.

Prendo sul serio entrambi i punti. Ma, letti con attenzione, portano alla stessa conclusione. Il rischio non sta nel fatto che l’AI scriva il codice. Sta nell’assenza di una verifica seria e indipendente. È lì che si gioca il vero lavoro.

## L’AI può rivedere il codice meglio degli esseri umani?

Per molto tempo abbiamo dato per scontato che fossero gli esseri umani a dover controllare il lavoro dell’AI. Ciò che abbiamo scoperto nella pratica è che l’AI è molto più brava a controllare il lavoro degli esseri umani, e quello di altre AI.

Non è un pio desiderio. Quando OpenSSL, una delle basi di codice più scrutinate al mondo, ha pubblicato dodici nuove vulnerabilità a gennaio 2026, tutte e dodici erano state scoperte dal sistema AI della start-up di sicurezza AISLE, secondo quanto dichiarato dall’azienda stessa. Nel suo paper di maggio 2026 The Bugpocalypse Threshold, la Cloud Security Alliance descrive come gli strumenti di AI possano ormai rivedere milioni di righe di codice in ore anziché in settimane. Osserva inoltre che l’agente Big Sleep di Google è stato il primo agente AI documentato a trovare, senza alcuna guida umana, una falla sfruttabile e fino ad allora sconosciuta in un software molto diffuso, il database SQLite.

Siamo onesti sulla revisione umana. Ci stanchiamo. Leggiamo di fretta. Ci fidiamo di un collega il cui lavoro è sempre stato a posto. Approviamo la pull request enorme il venerdì pomeriggio perché sembra ragionevole. Un revisore automatico ben istruito non fa nulla di tutto questo. Abbandonare la revisione manuale all’inizio ci è sembrato scomodo, quasi come lasciare il volante. Le cose sono cambiate quando abbiamo visto, ancora e ancora, che gli strumenti individuavano ciò che noi ci saremmo lasciati sfuggire.

I lettori abituali potrebbero notare un cambiamento. A ottobre ho scritto che ogni modifica nella nostra azienda viene rivista da una persona che la comprende prima di arrivare in produzione. In un certo senso questo vale ancora: è un essere umano a decidere cosa va in produzione. Ciò che è cambiato nelle settimane successive è chi, o che cosa, esegue la lettura. La revisione riga per riga è passata ai nostri strumenti, perché si sono rivelati più accurati di noi.

Questo non significa che il codice scritto dall’AI sia sicuro per impostazione predefinita. Le ricerche citate sopra mostrano chiaramente che non lo è. Significa che la verifica fatta dall’AI, se progettata bene e organizzata a strati, è più accurata di quella fatta dai soli esseri umani.

## Dove vive davvero il controllo?

“Human in the loop” (l’essere umano nel ciclo) significa che una persona controlla ogni passaggio. “Human in control” (l’essere umano al controllo) significa che gli esseri umani progettano il sistema che esegue i controlli e decidono cosa è abbastanza buono. Pensa a un pilota di linea. Il pilota automatico conduce la maggior parte del viaggio, eppure nessuno considera il pilota superfluo. Il pilota è al comando, non dentro il ciclo di ogni singola correzione.

In Guardian360 il controllo comincia prima che venga scritta una sola riga di codice. Le nostre specifiche descrivono non solo i casi d’uso, ma anche i casi di abuso: come potrebbe essere usata in modo improprio questa funzionalità, e da chi? Abbiamo istruito i nostri strumenti di AI a essere critici e, in modo esplicito, a non comportarsi come un “helpful intern” (uno stagista volenteroso). Uno stagista volenteroso vuole compiacerti, e un agente che vuole compiacerti scriverà codice che supera il test, anziché codice che è giusto. Dietro tutto questo ci sono gli strati che ti aspetteresti in qualsiasi ambiente maturo: linting, hardening, segmentazione e role-based access control, insieme a test funzionali, di integrazione e unit test. Più modelli rivedono il codice da angolazioni diverse, in modo che nessun modello valuti il proprio stesso lavoro.

Una scelta conta più di quanto possa sembrare. Facciamo girare noi stessi un open-weight model, nel nostro cluster di server nei Paesi Bassi, con le nostre skill, le nostre capacità e il nostro harness, e con un test fisso che ogni modello deve superare prima che ci fidiamo di lui. Quando possiedi l’harness, decidi tu cosa gli agenti possono vedere, toccare e fare. Il controllo non è solo una questione di supervisione; è anche una questione di proprietà.

## Cosa succede quando il codice non è più il collo di bottiglia?

A ottobre ho raccontato come abbiamo [ricostruito la nostra piattaforma in circa tre mesi](https://guardian360.net/it/blog/we-now-build-in-three-months-what-took-us-three-years/), un lavoro che prima richiedeva più di tre anni. Il vincolo si è spostato dalla costruzione all’implementazione: tenere informati i partner e mantenere semplice il prodotto. Quando costruire non costa quasi nulla, la disciplina di cui abbiamo bisogno non è quella del consegnare, ma quella del dire di no. Velocità contro sicurezza resta la mia preoccupazione più grande, ed è proprio per questo che investiamo nella verifica anziché in più mani sulla tastiera.

## Cosa succede agli sviluppatori quando programmare non è più il lavoro?

Ho già scritto del [costo umano dello sviluppo assistito dall’AI](https://guardian360.net/it/blog/ai-took-away-the-typing-not-the-thinking/) e di [cosa fa alla corrente sotterranea di un’organizzazione](https://guardian360.net/it/blog/ai-agents-need-no-social-maintenance/). Il passaggio dal livello tre al livello quattro aggiunge una piega che non mi aspettavo. Una ricerca che ho citato in precedenza ha rilevato che supervisionare l’AI è la forma di utilizzo dell’AI più faticosa a livello mentale, e leggere diffs tutto il giorno è esattamente questo. Al livello quattro gli ingegneri smettono di eseguire i controlli e iniziano a progettarli: scrivono specifiche, definiscono casi di abuso e decidono che aspetto abbia il “good” (il buono). È più impegnativo dal punto di vista intellettuale, ma potrebbe benissimo essere meno logorante.

Shapiro scherza dicendo che al livello quattro sei diventato ciò che un tempo detestavi, un project manager. Nel nostro team assomiglia più a diventare un architetto della fiducia. Non tutti lo accolgono subito, e come leader credo sia importante dirlo ad alta voce. Per alcuni, lasciare andare il codice è come perdere un po’ di maestria artigianale, e la cultura di un team è plasmata da ciò a cui le persone dedicano le loro giornate.

## Livello cinque, con le luci accese

La dark factory di Shapiro è un luogo in cui gli esseri umani non servono e non sono i benvenuti. Non è lì che stiamo andando. Stiamo crescendo verso il livello cinque nel senso che una parte sempre maggiore del processo funziona in autonomia, dalla specifica fino al software funzionante. Ma le luci restano accese.

Non perché diffidiamo delle macchine, ma perché la responsabilità non si può delegare a una fabbrica. I nostri partner e i loro clienti non si fidano di noi perché un essere umano ha letto ogni riga di codice. Si fidano di noi perché gli esseri umani restano responsabili del sistema che lo produce, e delle decisioni su ciò che quel sistema può fare.

Quindi vorrei lasciarti con due domande. Dove si colloca il tuo team di sviluppo sulla scala di Shapiro? E quando qualcosa va storto, sai dire chi era al controllo, e non soltanto chi era nel ciclo?

## Fonti

- Dan Shapiro, “The Five Levels: from Spicy Autocomplete to the Dark Factory” (23 gennaio 2026), [https://www.danshapiro.com/blog/2026/01/the-five-levels-from-spicy-autocomplete-to-the-software-factory/](https://www.danshapiro.com/blog/2026/01/the-five-levels-from-spicy-autocomplete-to-the-software-factory/)
- Ethan Mollick, “Co-Existence: The Next Phase of AI” (Portfolio / Penguin Random House, ottobre 2026), [https://co-existence.ai/](https://co-existence.ai/)
- Simon Willison, “How StrongDM’s AI team build serious software without even looking at the code” (7 febbraio 2026), [https://simonwillison.net/2026/feb/7/software-factory/](https://simonwillison.net/2026/feb/7/software-factory/)
- Stanford Law School, “Built by Agents, Tested by Agents, Trusted by Whom?” (2026), [https://law.stanford.edu/?p=557739](https://law.stanford.edu/?p=557739)
- Cloud Security Alliance, “Vibe Coding Security Crisis: Credential Sprawl and SDLC Debt” (nota di ricerca, 2026), [https://labs.cloudsecurityalliance.org/research/csa-research-note-ai-generated-code-security-vibe-coding-202/](https://labs.cloudsecurityalliance.org/research/csa-research-note-ai-generated-code-security-vibe-coding-202/)
- “Human-Written vs. AI-Generated Code: A Large-Scale Study of Defects, Vulnerabilities, and Complexity” (arXiv, 2025), [https://arxiv.org/pdf/2508.21634](https://arxiv.org/pdf/2508.21634)
- Cloud Security Alliance, “The Bugpocalypse Threshold” (21 maggio 2026), [https://labs.cloudsecurityalliance.org/research/ai-accelerated-vuln-discovery-patch-capacity-whitepaper-v1-0/](https://labs.cloudsecurityalliance.org/research/ai-accelerated-vuln-discovery-patch-capacity-whitepaper-v1-0/)
- AISLE, “AI found 12 of 12 OpenSSL zero-days” (gennaio 2026), [https://www.greaterwrong.com/posts/7aJwgbMEiKq5egQbd/ai-found-12-of-12-openssl-zero-days-while-curl-cancelled-its](https://www.greaterwrong.com/posts/7aJwgbMEiKq5egQbd/ai-found-12-of-12-openssl-zero-days-while-curl-cancelled-its)
- Guardian360, “We now build in three months what took us three years” (12 ottobre 2026), [https://guardian360.net/it/blog/we-now-build-in-three-months-what-took-us-three-years/](https://guardian360.net/it/blog/we-now-build-in-three-months-what-took-us-three-years/)
- Guardian360, “AI took away the typing, not the thinking” (19 ottobre 2026), [https://guardian360.net/it/blog/ai-took-away-the-typing-not-the-thinking/](https://guardian360.net/it/blog/ai-took-away-the-typing-not-the-thinking/)
- Guardian360, “AI agents need no social maintenance. Your organisation does” (25 ottobre 2026), [https://guardian360.net/it/blog/ai-agents-need-no-social-maintenance/](https://guardian360.net/it/blog/ai-agents-need-no-social-maintenance/)
- Guardian360, “We tested our self-hosted LLMs and accidentally built a game” (1 ottobre 2026), [https://guardian360.net/it/blog/we-tested-our-self-hosted-llms-and-accidentally-built-a-game/](https://guardian360.net/it/blog/we-tested-our-self-hosted-llms-and-accidentally-built-a-game/)
