Opinion
Human in the loop'tan human in control'e: yapay zeka destekli geliştirmenin beş seviyesi bir güvenlik şirketi için ne anlama geliyor?
Bir itirafta bulunmam gerekiyor. Geliştirme ekibimizde artık neredeyse hiç kimse kodu satır satır okumuyor. Bir yıl önce buna ihmalkârlık derdim, hele ki güvenlik yazılımı geliştiren bir şirket için. Bugün tam tersine ikna olmuş durumdayım: kullandığımız araçlar kodumuzu, bizim kendi başımıza yaptığımızdan daha dikkatli denetliyor.
Yaşadıklarımızı kelimelere dökmeme iki güncel okuma yardımcı oldu. Birincisi, Ocak 2026’da yayımlanan Dan Shapiro’nun The Five Levels adlı blog yazısı; yapay zeka destekli yazılım geliştirmeyi “spicy autocomplete”ten (baharatlı otomatik tamamlama) “dark factory”ye (karanlık fabrika) uzanan beş seviyede anlatıyor. İkincisi, Ethan Mollick’in Ekim 2026’da yayımlanan yeni kitabı Co-Existence; zaman zaman bizden daha akıllı olan makinelerle birlikte yaşamayı ve çalışmayı konu alıyor. İkisini yan yana okuyunca şirketimizin dördüncü seviyeye ulaştığını ve yavaş yavaş beşinci seviyeye doğru büyüdüğünü fark ettim. Daha da önemlisi, sektörümüzdeki en inatçı varsayımlardan birinin yeniden ele alınmayı hak ettiğini gördüm: döngüde her zaman bir insanın bulunması gerektiği fikri.
Yapay zeka destekli yazılım geliştirmenin beş seviyesi nedir?
Shapiro çerçevesini sürüş otomasyonu seviyelerinden ödünç alıyor. Sıfırıncı seviyede her karakteri bir insan yazar. Birinci seviyede, bir unit test yazmak gibi küçük ve tekil görevleri devredersiniz. İkinci seviyede yapay zekayla bir meslektaşla çalışır gibi eşleşirsiniz; Shapiro’ya göre kendini “AI-native” (yapay zeka odaklı) ilan eden geliştiricilerin çoğu burada yaşıyor. Üçüncü seviyede kodu yapay zeka yazar, geliştirici ise günü diffs okuyarak geçiren bir gözden geçirmeciye dönüşür. Shapiro, hemen herkesin burada tıkandığını gözlemliyor.
Dördüncü seviye farklıdır. Geliştirici artık ne bir geliştiricidir ne de bir geliştirme yöneticisi, daha çok bir ürün yöneticisine yakın bir şeydir. Spesifikasyonu yazarsınız, onunla tartışırsınız, ajanlarınızın kullandığı becerileri (skills) oluşturursunuz, planları gözden geçirirsiniz, sonra uzaklaşıp testlerin geçip geçmediğine daha sonra bakarsınız. Beşinci seviye ise Shapiro’nun dark factory dediği şeydir: spesifikasyonları yazılıma dönüştüren bir kara kutu; adını, insanlara ne ihtiyaç duyulan ne de hoş geldin denilen robot fabrikalarından alıyor.
Mühendislerimiz artık zamanlarını diffs okumak yerine spesifikasyonlara, becerilere ve test tasarımına ayırıyor. Bu dördüncü seviyedir. Beşinci seviyede değiliz, çünkü neyin geliştirileceğine, nasıl test edileceğine ve üretime nelerin alınabileceğine hâlâ insanlar karar veriyor. Açıklayacağım gibi, ışıkların tamamen sönmesini isteyip istemediğimizden emin değilim.
Yapay zekanın güvenlik yazılımı yazmasına izin vermek güvenli mi?
Haklı bir soru ve kendime defalarca sordum. Denetlenmemiş yapay zeka kodunun riskli olduğuna dair kanıtlar gerçek. Cloud Security Alliance’ın bir araştırma notu, CodeRabbit’in gerçek dünyadaki pull request’ler üzerine yaptığı bir analize atıfta bulunuyor; bu analiz, yapay zekanın ürettiği kodun insan yazımı koda göre 2,74 kat daha fazla güvenlik sorunu içerdiğini ortaya koymuş. 2025’te yayımlanan büyük ölçekli bir akademik karşılaştırma da benzer bir sonuca varıyor: yapay zeka kodu genellikle daha basit, ancak yüksek önem derecesine sahip güvenlik açıkları içerme olasılığı daha yüksek.
Bazı şirketler bizden çok daha ileri gitti. Erişim yönetimi ve güvenlik yazılımı geliştiren StrongDM’in yapay zeka ekibi, Şubat 2026’da iki kuralla yönetilen “Software Factory”sini anlattı: kod insanlar tarafından yazılmamalı ve kod insanlar tarafından gözden geçirilmemeli. Ekibi ziyaret eden Simon Willison, güvenlik yazılımının bu şekilde geliştirilmesini en son beklenecek şey olarak nitelendirdi. Stanford Law School araştırmacıları daha keskin bir itiraz ileri sürdü: aynı teknoloji sınıfı hem kodu yazıp hem de çalışıp çalışmadığına karar verdiğinde, kendi ödevini notlandıran döngüsel bir sistem riskiyle karşı karşıya kalırsınız.
İki noktayı da ciddiye alıyorum. Ancak dikkatle okunduğunda ikisi de aynı sonuca işaret ediyor. Risk, yapay zekanın kodu yazmasında değil; ciddi ve bağımsız bir doğrulamanın olmamasında yatıyor. Asıl iş de burada.
Yapay zeka kodu insanlardan daha iyi denetleyebilir mi?
Uzun süre yapay zekanın işini insanların kontrol etmesi gerektiğini varsaydık. Pratikte keşfettiğimiz şey, yapay zekanın insanların ve diğer yapay zekaların işini kontrol etmekte çok daha iyi olduğu.
Bu bir temenni değil. Dünyanın en çok incelenen kod tabanlarından biri olan OpenSSL, Ocak 2026’da on iki yeni güvenlik açığı yayımladığında, şirketin kendi açıklamasına göre on ikisi de güvenlik girişimi AISLE’in yapay zeka sistemi tarafından keşfedilmişti. Cloud Security Alliance, Mayıs 2026 tarihli The Bugpocalypse Threshold makalesinde, yapay zeka araçlarının artık milyonlarca satır kodu haftalar yerine saatler içinde nasıl inceleyebildiğini anlatıyor. Ayrıca Google’ın Big Sleep ajanının, yaygın biçimde kullanılan bir yazılımda (SQLite veritabanında) daha önce bilinmeyen, istismar edilebilir bir açığı insan yönlendirmesi olmadan bulan belgelenmiş ilk yapay zeka ajanı olduğunu not ediyor.
İnsan incelemesi konusunda dürüst olalım. Yoruluyoruz. Göz gezdirip geçiyoruz. İşi hep sorunsuz olmuş bir meslektaşımıza güveniyoruz. Makul göründüğü için büyük bir pull request’i cuma öğleden sonra onaylıyoruz. İyi talimatlandırılmış bir makine gözden geçirmeci bunların hiçbirini yapmaz. Elle incelemeden uzaklaşmak başta rahatsız ediciydi; neredeyse direksiyonu bırakmak gibi. Araçların bizim kaçıracağımız şeyleri defalarca yakaladığını gördükçe bu değişti.
Düzenli okurlar bir kayma fark edebilir. Ekim ayında, şirketimizde her değişikliğin üretime ulaşmadan önce onu anlayan bir kişi tarafından gözden geçirildiğini yazmıştım. Bir anlamda bu hâlâ geçerli: neyin üretime gireceğine bir insan karar veriyor. Aradan geçen haftalarda değişen şey, okumayı kimin ya da neyin yaptığı. Satır satır inceleme araçlarımıza kaydı, çünkü bizden daha titiz olduklarını gösterdiler.
Bu, yapay zekanın yazdığı kodun varsayılan olarak güvenli olduğu anlamına gelmiyor. Yukarıdaki araştırmalar bunun böyle olmadığını açıkça gösteriyor. Anlamı şu: iyi tasarlanmış ve doğru katmanlandırılmış yapay zeka doğrulaması, yalnızca insanlara dayanan doğrulamadan daha kapsamlıdır.
Kontrol aslında nerede durur?
“Human in the loop”, bir insanın her adımı kontrol etmesi demektir. “Human in control” ise insanların kontrolü yapan sistemi tasarlaması ve neyin yeterince iyi olduğuna karar vermesi demektir. Bir hava yolu pilotunu düşünün. Yolculuğun çoğunu otopilot uçurur, yine de kimse pilotu gereksiz görmez. Pilot komutadadır; her küçük ayarın döngüsünde değil.
Guardian360’ta kontrol, tek bir satır kod yazılmadan önce başlar. Spesifikasyonlarımız yalnızca kullanım senaryolarını değil, kötüye kullanım senaryolarını da anlatır: bu özellik nasıl ve kim tarafından kötüye kullanılabilir? Yapay zeka araçlarımıza eleştirel olmalarını ve açıkça bir “helpful intern” (yardımsever stajyer) gibi davranmamalarını söyledik. Yardımsever bir stajyer sizi memnun etmek ister; sizi memnun etmek isteyen bir ajan da doğru olan kodu değil, testi geçen kodu yazar. Bunun ardında, olgun her ortamda beklenecek katmanlar var: linting, sıkılaştırma (hardening), segmentasyon ve role-based access control; bunlarla birlikte fonksiyonel, entegrasyon ve unit testler. Kodu birkaç model farklı açılardan inceler; böylece hiçbir model kendi işini kendisi onaylamaz.
Göründüğünden daha önemli bir tercih var. Hollanda’daki kendi sunucu kümemizde, kendi becerilerimiz, yeteneklerimiz ve harness’imizle bir open-weight model işletiyoruz; ayrıca her modelin ona güvenmeden önce geçmesi gereken sabit bir test var. Harness size ait olduğunda, ajanların neyi görebileceğine, neye dokunabileceğine ve neler yapabileceğine siz karar verirsiniz. Kontrol yalnızca gözetim meselesi değil, aynı zamanda sahiplik meselesidir.
Kod artık darboğaz olmadığında ne olur?
Ekim ayında, platformumuzu yaklaşık üç ayda yeniden inşa ettiğimizi anlatmıştım; bu iş daha önce üç yıldan fazla sürüyordu. Kısıt, geliştirmeden uygulamaya kaydı: iş ortaklarını bilgilendirmek ve ürünü basit tutmak. Geliştirmenin maliyeti neredeyse sıfıra indiğinde ihtiyaç duyduğumuz disiplin, teslim etme disiplini değil, hayır deme disiplinidir. Hız ile güvenlik arasındaki denge en büyük endişem olmaya devam ediyor; tam da bu yüzden klavye başındaki ellerin sayısına değil, doğrulamaya yatırım yapıyoruz.
Kodlama artık iş olmaktan çıkınca geliştiricilere ne olur?
Yapay zeka destekli geliştirmenin insani bedelini ve bunun bir organizasyonun görünmeyen alt akıntısına ne yaptığını daha önce yazmıştım. Üçüncü seviyeden dördüncü seviyeye geçmek, beklemediğim bir ek boyut getiriyor. Daha önce andığım bir araştırma, yapay zekayı denetlemenin yapay zeka kullanımının zihinsel olarak en yorucu biçimi olduğunu bulmuştu; gün boyu diffs okumak da tam olarak bu. Dördüncü seviyede mühendisler kontrolleri yapmayı bırakıp tasarlamaya başlıyor: spesifikasyon yazıyor, kötüye kullanım senaryolarını tanımlıyor ve “good” (iyi) olanın neye benzediğine karar veriyor. Bu entelektüel olarak daha zorlayıcı, ama büyük olasılıkla daha az yorucu.
Shapiro, dördüncü seviyede eskiden nefret ettiğiniz şeye, bir proje yöneticisine dönüştüğünüzü söyleyerek espri yapıyor. Bizim ekipte bu daha çok bir güven mimarı olmaya benziyor. Herkes bunu hemen benimsemiyor ve bir lider olarak bunu açıkça söylemenin önemli olduğunu düşünüyorum. Kimileri için koddan elini çekmek, ustalıktan bir şey kaybetmek gibi hissettiriyor; bir ekibin kültürünü de insanların günlerini neyle geçirdiği şekillendiriyor.
Beşinci seviye, ışıklar açıkken
Shapiro’nun dark factory’si, insanlara ne ihtiyaç duyulan ne de hoş geldin denilen bir yer. Gitmekte olduğumuz yer burası değil. Süreçten giderek daha fazlasının, spesifikasyondan çalışan yazılıma kadar otonom biçimde yürümesi anlamında beşinci seviyeye doğru büyüyoruz. Ama ışıklar açık kalıyor.
Makinelere güvenmediğimiz için değil, sorumluluk bir fabrikaya devredilemediği için. İş ortaklarımız ve onların müşterileri bize, her kod satırını bir insan okuduğu için güvenmiyor. Bize güveniyorlar, çünkü o kodu üreten sistemden ve o sistemin neler yapmasına izin verildiği kararlarından insanlar sorumlu olmaya devam ediyor.
O yüzden sizi iki soruyla baş başa bırakmak istiyorum. Geliştirme ekibiniz Shapiro’nun ölçeğinde neredesiniz? Ve bir şeyler ters gittiğinde, yalnızca kimin döngüde olduğunu değil, kimin kontrolde olduğunu söyleyebilir misiniz?
Kaynaklar
- Dan Shapiro, “The Five Levels: from Spicy Autocomplete to the Dark Factory” (23 Ocak 2026), https://www.danshapiro.com/blog/2026/01/the-five-levels-from-spicy-autocomplete-to-the-software-factory/
- Ethan Mollick, “Co-Existence: The Next Phase of AI” (Portfolio / Penguin Random House, Ekim 2026), https://co-existence.ai/
- Simon Willison, “How StrongDM’s AI team build serious software without even looking at the code” (7 Şubat 2026), https://simonwillison.net/2026/feb/7/software-factory/
- Stanford Law School, “Built by Agents, Tested by Agents, Trusted by Whom?” (2026), https://law.stanford.edu/?p=557739
- Cloud Security Alliance, “Vibe Coding Security Crisis: Credential Sprawl and SDLC Debt” (araştırma notu, 2026), https://labs.cloudsecurityalliance.org/research/csa-research-note-ai-generated-code-security-vibe-coding-202/
- “Human-Written vs. AI-Generated Code: A Large-Scale Study of Defects, Vulnerabilities, and Complexity” (arXiv, 2025), https://arxiv.org/pdf/2508.21634
- Cloud Security Alliance, “The Bugpocalypse Threshold” (21 Mayıs 2026), https://labs.cloudsecurityalliance.org/research/ai-accelerated-vuln-discovery-patch-capacity-whitepaper-v1-0/
- AISLE, “AI found 12 of 12 OpenSSL zero-days” (Ocak 2026), https://www.greaterwrong.com/posts/7aJwgbMEiKq5egQbd/ai-found-12-of-12-openssl-zero-days-while-curl-cancelled-its
- Guardian360, “We now build in three months what took us three years” (12 Ekim 2026), https://guardian360.net/tr/blog/we-now-build-in-three-months-what-took-us-three-years/
- Guardian360, “AI took away the typing, not the thinking” (19 Ekim 2026), https://guardian360.net/tr/blog/ai-took-away-the-typing-not-the-thinking/
- Guardian360, “AI agents need no social maintenance. Your organisation does” (25 Ekim 2026), https://guardian360.net/tr/blog/ai-agents-need-no-social-maintenance/
- Guardian360, “We tested our self-hosted LLMs and accidentally built a game” (1 Ekim 2026), https://guardian360.net/tr/blog/we-tested-our-self-hosted-llms-and-accidentally-built-a-game/