---
title: "Od human in the loop do human in control: co pięć poziomów rozwoju oprogramowania opartego na AI oznacza dla firmy z branży bezpieczeństwa | Guardian360"
description: "Pięć poziomów rozwoju oprogramowania opartego na AI według Dana Shapiro, od spicy autocomplete po dark factory, oraz co osiągnięcie poziomu czwartego oznacza dla firmy tworzącej oprogramowanie z obszaru bezpieczeństwa. Dlaczego prawdziwe pytanie nie brzmi, czy człowiek jest w pętli, lecz czy ludzie zachowują kontrolę."
url: https://guardian360.net/pl/blog/from-human-in-the-loop-to-human-in-control/
locale: en
source: guardian360.net
---
[← Wszystkie wpisy](https://guardian360.net/pl/blog/)

Opinia

# Od human in the loop do human in control: co pięć poziomów rozwoju oprogramowania opartego na AI oznacza dla firmy z branży bezpieczeństwa

Autor Jan Martijn Broekhof · 14 listopada 2026

Muszę się do czegoś przyznać. W naszym zespole programistów prawie nikt już nie czyta kodu linijka po linijce. Rok temu uznałbym to za zaniedbanie, zwłaszcza w firmie, która tworzy oprogramowanie z obszaru bezpieczeństwa. Dziś jestem przekonany o czymś wręcz przeciwnym: narzędzia, z których korzystamy, sprawdzają nasz kod dokładniej, niż kiedykolwiek robiliśmy to sami.

Dwie niedawne lektury pomogły mi nazwać to, czego doświadczamy. Pierwszą jest blog Dana Shapiro The Five Levels, opublikowany w styczniu 2026 roku, który opisuje pięć poziomów rozwoju oprogramowania opartego na AI, od “spicy autocomplete” (dosłownie: “pikantnego autouzupełniania”) po “dark factory” (“ciemną fabrykę”). Drugą jest nowa książka Ethana Mollicka Co-Existence, wydana w październiku 2026 roku, o życiu i pracy obok maszyn, które bywają mądrzejsze od nas. Czytając je jedna po drugiej, zrozumiałem, że nasza firma osiągnęła poziom czwarty i powoli zmierza w stronę piątego. Co ważniejsze, zrozumiałem, że jedno z najtrwalszych założeń w naszej branży zasługuje na ponowne przemyślenie: przekonanie, że człowiek musi zawsze pozostawać w pętli.

## Jakie są pięć poziomów rozwoju oprogramowania opartego na AI?

Shapiro czerpie swoje ramy z poziomów automatyzacji jazdy. Na poziomie zerowym każdy znak wpisuje człowiek. Na poziomie pierwszym przekazuje się małe, wyodrębnione zadania, takie jak napisanie unit test. Na poziomie drugim pracuje się z AI w parze, jak z kolegą; według Shapiro właśnie tu żyje większość samozwańczych programistów “AI-native”. Na poziomie trzecim kod pisze AI, a programista staje się recenzentem, który spędza dzień na czytaniu diffs. Shapiro zauważa, że prawie wszyscy zatrzymują się właśnie tutaj.

Poziom czwarty jest inny. Programista nie jest już programistą ani kierownikiem zespołu deweloperskiego, lecz kimś bliższym product managerowi. Pisze się specyfikację, spiera się z nią, buduje umiejętności (skills), z których korzystają agenci, recenzuje plany, a potem odchodzi się od komputera i sprawdza później, czy testy przechodzą. Poziom piąty to to, co Shapiro nazywa dark factory: czarna skrzynka, która zamienia specyfikacje w oprogramowanie, nazwana tak od zrobotyzowanych fabryk, w których ludzie nie są ani potrzebni, ani mile widziani.

Nasi inżynierowie spędzają dziś czas nad specyfikacjami, umiejętnościami agentów i projektowaniem testów, a nie nad czytaniem diffs. To jest poziom czwarty. Nie jesteśmy na poziomie piątym, ponieważ o tym, co powstaje, jak jest testowane i co trafia na produkcję, nadal decydują ludzie. Jak wyjaśnię dalej, nie jestem pewien, czy kiedykolwiek chcemy całkowicie zgasić światło.

## Czy bezpiecznie jest pozwolić AI pisać oprogramowanie z obszaru bezpieczeństwa?

To uzasadnione pytanie i zadawałem je sobie wielokrotnie. Dowody na to, że niesprawdzony kod wygenerowany przez AI jest ryzykowny, są realne. Nota badawcza Cloud Security Alliance przytacza analizę CodeRabbit dotyczącą rzeczywistych pull request, z której wynika, że kod wygenerowany przez AI zawierał 2,74 razy więcej problemów z bezpieczeństwem niż kod napisany przez ludzi. Szeroko zakrojone porównanie akademickie opublikowane w 2025 roku doprowadziło do podobnego wniosku: kod generowany przez AI bywa prostszy, ale częściej zawiera podatności o wysokiej krytyczności.

Niektóre firmy poszły znacznie dalej niż my. W lutym 2026 roku zespół AI w StrongDM, firmie tworzącej oprogramowanie do zarządzania dostępem i bezpieczeństwa, opisał swoją “Software Factory”, rządzoną dwiema zasadami: kod nie może być pisany przez ludzi i kod nie może być recenzowany przez ludzi. Simon Willison, który odwiedził ten zespół, zauważył, że oprogramowanie z obszaru bezpieczeństwa to ostatnia rzecz, jakiej można by oczekiwać po takim sposobie budowania. Badacze ze Stanford Law School sformułowali ostrzejszy zarzut: gdy ta sama klasa technologii zarówno pisze kod, jak i ocenia, czy on działa, grozi powstaniem systemu zamkniętego w kole, który sam ocenia własną pracę.

Traktuję oba te głosy poważnie. Jednak przy uważnej lekturze prowadzą do tego samego wniosku. Ryzyko nie leży w tym, że AI pisze kod. Leży w braku rzetelnej, niezależnej weryfikacji. I tu zaczyna się prawdziwa praca.

## Czy AI potrafi recenzować kod lepiej niż ludzie?

Przez długi czas zakładaliśmy, że to ludzie muszą sprawdzać pracę AI. W praktyce odkryliśmy, że AI znacznie lepiej sprawdza pracę ludzi oraz innych systemów AI.

To nie jest myślenie życzeniowe. Gdy OpenSSL, jedna z najdokładniej prześwietlanych baz kodu na świecie, opublikował w styczniu 2026 roku dwanaście nowych podatności, wszystkie dwanaście zostało odkrytych, według samej firmy, przez system AI start-upu z branży bezpieczeństwa AISLE. W swoim opracowaniu z maja 2026 roku The Bugpocalypse Threshold Cloud Security Alliance opisuje, jak narzędzia AI potrafią dziś przeglądać miliony linii kodu w godziny, a nie w tygodnie. Zauważa także, że agent Big Sleep firmy Google stał się pierwszym udokumentowanym agentem AI, który bez udziału człowieka znalazł wcześniej nieznaną, możliwą do wykorzystania lukę w szeroko wdrożonym oprogramowaniu, bazie danych SQLite.

Bądźmy szczerzy co do recenzji dokonywanej przez ludzi. Męczymy się. Przeglądamy po łebkach. Ufamy koledze, którego praca zawsze była w porządku. Zatwierdzamy duży pull request w piątkowe popołudnie, bo wygląda rozsądnie. Dobrze poinstruowany recenzent maszynowy nie robi żadnej z tych rzeczy. Odejście od ręcznej recenzji było z początku niekomfortowe, niemal jak puszczenie kierownicy. Zmieniło się to, gdy wielokrotnie widzieliśmy, że narzędzia wychwytują to, co my byśmy przeoczyli.

Stali czytelnicy mogą zauważyć zmianę. W październiku napisałem, że każda zmiana w naszej firmie jest recenzowana przez osobę, która ją rozumie, zanim trafi na produkcję. W pewnym sensie nadal to obowiązuje: człowiek decyduje, co trafia na produkcję. Zmieniło się w ostatnich tygodniach to, kto, a raczej co, wykonuje samo czytanie. Recenzja linijka po linijce przeszła na nasze narzędzia, ponieważ okazały się dokładniejsze niż my.

Nie oznacza to, że kod napisany przez AI jest domyślnie bezpieczny. Przytoczone badania jasno pokazują, że tak nie jest. Oznacza to, że weryfikacja przez AI, jeśli jest dobrze zaprojektowana i właściwie warstwowa, jest dokładniejsza niż weryfikacja wyłącznie przez ludzi.

## Gdzie naprawdę leży kontrola?

“Human in the loop” (“człowiek w pętli”) oznacza, że człowiek sprawdza każdy krok. “Human in control” (“człowiek sprawuje kontrolę”) oznacza, że ludzie projektują system, który dokonuje sprawdzania, i decydują, co jest wystarczająco “good” (dobre). Proszę pomyśleć o pilocie liniowym. Autopilot prowadzi samolot przez większość podróży, a mimo to nikt nie uważa pilota za zbędnego. Pilot dowodzi, ale nie uczestniczy w pętli każdej drobnej korekty.

W Guardian360 kontrola zaczyna się, zanim powstanie choćby jedna linijka kodu. Nasze specyfikacje opisują nie tylko przypadki użycia, ale także przypadki nadużycia: jak ta funkcja mogłaby zostać wykorzystana w złych celach i przez kogo? Poinstruowaliśmy nasze narzędzia AI, aby były krytyczne i wyraźnie nie zachowywały się jak “helpful intern” (pomocny stażysta). Pomocny stażysta chce się przypodobać, a agent, który chce się przypodobać, napisze kod przechodzący test, a nie kod poprawny. Za tym stoją warstwy, jakich można oczekiwać w każdym dojrzałym środowisku: linting, hardening, segmentacja i role-based access control, a także testy funkcjonalne, integracyjne i unit test. Kilka modeli recenzuje kod z różnych perspektyw, tak aby żaden model nie oceniał własnej pracy.

Jeden wybór ma większe znaczenie, niż mogłoby się wydawać. Uruchamiamy open-weight model samodzielnie, w naszym własnym klastrze serwerów w Holandii, z własnymi umiejętnościami, możliwościami i harness oraz ze stałym testem, który każdy model musi zaliczyć, zanim mu zaufamy. Kto jest właścicielem harness, ten decyduje, co agenci mogą widzieć, czego dotykać i co robić. Kontrola to nie tylko kwestia nadzoru; to także kwestia własności.

## Co się dzieje, gdy kod przestaje być wąskim gardłem?

W październiku opisałem, jak [przebudowaliśmy naszą platformę w około trzy miesiące](https://guardian360.net/pl/blog/we-now-build-in-three-months-what-took-us-three-years/), czyli pracę, która wcześniej zajmowała ponad trzy lata. Ograniczenie przesunęło się z budowania na wdrożenie: informowanie partnerów i utrzymanie prostoty produktu. Gdy budowanie kosztuje prawie nic, potrzebna jest nam nie dyscyplina dostarczania, lecz dyscyplina mówienia “nie”. Napięcie między szybkością a bezpieczeństwem pozostaje moją największą obawą, i właśnie dlatego inwestujemy w weryfikację, a nie w więcej rąk na klawiaturach.

## Co się dzieje z programistami, gdy kodowanie przestaje być zadaniem?

Pisałem już o [ludzkich kosztach rozwoju wspomaganego przez AI](https://guardian360.net/pl/blog/ai-took-away-the-typing-not-the-thinking/) oraz o tym, [co ten rozwój robi z podprądem organizacji](https://guardian360.net/pl/blog/ai-agents-need-no-social-maintenance/). Przejście z poziomu trzeciego na czwarty dodaje zwrot, którego się nie spodziewałem. Badania, które cytowałem wcześniej, wykazały, że nadzorowanie AI jest najbardziej obciążającą umysłowo formą korzystania z AI, a czytanie diffs przez cały dzień to dokładnie to. Na poziomie czwartym inżynierowie przestają wykonywać kontrole, a zaczynają je projektować: piszą specyfikacje, definiują przypadki nadużycia i decydują, jak wygląda “good”. To jest bardziej wymagające intelektualnie, ale może być mniej wyczerpujące.

Shapiro żartuje, że na poziomie czwartym stajemy się tym, czym kiedyś gardziliśmy, czyli project managerem. W naszym zespole bardziej przypomina to stawanie się architektem zaufania. Nie wszyscy przyjmują to od razu z entuzjazmem i jako lider uważam, że ważne jest, by powiedzieć to głośno. Dla niektórych porzucenie kodu jest utratą kunsztu rzemieślniczego, a kulturę zespołu kształtuje to, czym ludzie zajmują się na co dzień.

## Poziom piąty, przy zapalonym świetle

Dark factory według Shapiro to miejsce, w którym ludzie nie są ani potrzebni, ani mile widziani. Nie tam zmierzamy. Zmierzamy w stronę poziomu piątego w tym sensie, że coraz większa część procesu przebiega autonomicznie, od specyfikacji do działającego oprogramowania. Ale światło pozostaje zapalone.

Nie dlatego, że nie ufamy maszynom, lecz dlatego, że odpowiedzialności nie można delegować fabryce. Nasi partnerzy i ich klienci nie ufają nam dlatego, że człowiek przeczytał każdą linijkę kodu. Ufają nam, ponieważ ludzie pozostają odpowiedzialni za system, który ten kod wytwarza, oraz za decyzje o tym, co wolno mu robić.

Chciałbym więc zostawić Państwa z dwoma pytaniami. Na którym miejscu skali Shapiro znajduje się Państwa zespół programistów? A gdy coś pójdzie nie tak, czy potrafią Państwo powiedzieć, kto sprawował kontrolę, a nie tylko, kto był w pętli?

## Źródła

- Dan Shapiro, “The Five Levels: from Spicy Autocomplete to the Dark Factory” (23 January 2026), [https://www.danshapiro.com/blog/2026/01/the-five-levels-from-spicy-autocomplete-to-the-software-factory/](https://www.danshapiro.com/blog/2026/01/the-five-levels-from-spicy-autocomplete-to-the-software-factory/)
- Ethan Mollick, “Co-Existence: The Next Phase of AI” (Portfolio / Penguin Random House, October 2026), [https://co-existence.ai/](https://co-existence.ai/)
- Simon Willison, “How StrongDM’s AI team build serious software without even looking at the code” (7 February 2026), [https://simonwillison.net/2026/feb/7/software-factory/](https://simonwillison.net/2026/feb/7/software-factory/)
- Stanford Law School, “Built by Agents, Tested by Agents, Trusted by Whom?” (2026), [https://law.stanford.edu/?p=557739](https://law.stanford.edu/?p=557739)
- Cloud Security Alliance, “Vibe Coding Security Crisis: Credential Sprawl and SDLC Debt” (research note, 2026), [https://labs.cloudsecurityalliance.org/research/csa-research-note-ai-generated-code-security-vibe-coding-202/](https://labs.cloudsecurityalliance.org/research/csa-research-note-ai-generated-code-security-vibe-coding-202/)
- “Human-Written vs. AI-Generated Code: A Large-Scale Study of Defects, Vulnerabilities, and Complexity” (arXiv, 2025), [https://arxiv.org/pdf/2508.21634](https://arxiv.org/pdf/2508.21634)
- Cloud Security Alliance, “The Bugpocalypse Threshold” (21 May 2026), [https://labs.cloudsecurityalliance.org/research/ai-accelerated-vuln-discovery-patch-capacity-whitepaper-v1-0/](https://labs.cloudsecurityalliance.org/research/ai-accelerated-vuln-discovery-patch-capacity-whitepaper-v1-0/)
- AISLE, “AI found 12 of 12 OpenSSL zero-days” (January 2026), [https://www.greaterwrong.com/posts/7aJwgbMEiKq5egQbd/ai-found-12-of-12-openssl-zero-days-while-curl-cancelled-its](https://www.greaterwrong.com/posts/7aJwgbMEiKq5egQbd/ai-found-12-of-12-openssl-zero-days-while-curl-cancelled-its)
- Guardian360, “We now build in three months what took us three years” (12 October 2026), [https://guardian360.net/pl/blog/we-now-build-in-three-months-what-took-us-three-years/](https://guardian360.net/pl/blog/we-now-build-in-three-months-what-took-us-three-years/)
- Guardian360, “AI took away the typing, not the thinking” (19 October 2026), [https://guardian360.net/pl/blog/ai-took-away-the-typing-not-the-thinking/](https://guardian360.net/pl/blog/ai-took-away-the-typing-not-the-thinking/)
- Guardian360, “AI agents need no social maintenance. Your organisation does” (25 October 2026), [https://guardian360.net/pl/blog/ai-agents-need-no-social-maintenance/](https://guardian360.net/pl/blog/ai-agents-need-no-social-maintenance/)
- Guardian360, “We tested our self-hosted LLMs and accidentally built a game” (1 October 2026), [https://guardian360.net/pl/blog/we-tested-our-self-hosted-llms-and-accidentally-built-a-game/](https://guardian360.net/pl/blog/we-tested-our-self-hosted-llms-and-accidentally-built-a-game/)
