Organ za upravljanje UI

Smo na prelomni točki razvoja programske opreme. Razprava se pogosto vrti okoli vprašanja, katero ali najboljšo kodo piše umetna inteligenca (Claude ali ChatGPT) oziroma kje kje naj bo ta umetna inteligenca nameščena (IDE ali CLI). Toda to ni pravo vprašanje.

Če umetno inteligenco sprejmemo kot »vibe coderje« – pri katerih določimo namen, umetna inteligenca pa poskrbi za izvedbo –, ustvarjamo ogromen tok nove programske opreme. Roj umetnointeligenčnih agentov lahko v eni minuti ustvari več kode, kot jo lahko izkušeni razvijalec pregleda v enem tednu. Človek je postal ozko grlo.

Rešitev niso več ljudje. Rešitev je organ za arhitekturo umetne inteligence.

Od obrtnika do direktorja tovarne

Tradicionalno je »organ za arhitekturo« skupina arhitektov, ki se enkrat tedensko ali mesečno sestane, da načrt odobri ali zavrne. V svetu hitrega razvoja z umetno inteligenco je ta model brezupno zastarel. Je prepočasen in preveč reaktiven.

Če preidemo na »kodo za enkratno uporabo« – programsko opremo, ki je ne refaktoriramo v nedogled, temveč jo ob spremembi zahtev zavržemo in znova ustvarimo –, se naša vloga temeljito spremeni. Nismo več zidarji, ki kamen za kamnom gradijo stavbo. Smo arhitekti tovarne, ki tiska zidove.

Toda kdo preverja, ali so ti zidovi ravni?

»Gauntlet«: avtomatizirana ognjena preizkušnja

Organ za oblikovanje umetne inteligence ni oseba, temveč cevovod. »Gauntlet«, skozi katerega se mora prebiti vsaka vrstica ustvarjene kode, da pride v produkcijo. Ta proces človeškega pregleda kode ne nadomešča z ničemer, temveč z nečim boljšim.

Deluje v treh plasteh:

1. Izvršna oblast (generiranje)
Za rešitev ne prosimo ene same umetne inteligence, temveč tri. Gemini 3, GPT-5 in odprtokodni model (na primer Llama) vzporedno rešujejo isti problem. S tem preprečimo enostranski pogled in prekinemo »lenobo«, za katero včasih trpijo veliki jezikovni modeli. Ta pristop je tudi znanstveno raziskan in dokazuje, da je mogoče preprečiti halucinacije umetne inteligence ter graditi zelo dolge verige brez napak

2. Strogi filter (zakon)
Tukaj ni prostora za razpravo. Koda se mora prevesti. Linterji ne smejo javiti nobenih napak. Ključno pa je: preizkusi črne skrinjice morajo biti uspešni. Ne preverjamo, ali funkcija deluje znotraj sistema (to bi lahko umetna inteligenca manipulirala), temveč ali sistem navzven počne to, kar mora. Če preizkus ne uspe, gre rešitev takoj v koš.

3. Mehki filter (žirija umetne inteligence)
To je prava inovacija. Preostale rešitve predložimo specializirani »glasovalni umetni inteligenci«. Ta agent ne piše kode, temveč jo bere ocenjuje. Usposobljen je na naših arhitekturnih načelih, varnostnih zahtevah (OWASP, ISO) in pravilih skladnosti (Akt EU o umetni inteligenci).
Glasuje: »Rešitev A je hitrejša, vendar je Rešitev B varnejša in se bolje ujema z našo mikrostoritveno arhitekturo.«

Zmagovalec gre v produkcijo.

Delitev oblasti v programski opremi

Ta model uveljavlja delitev oblasti, ki je v številnih ekipah ni.

• Zakonodajna oblast (arhitekt): Arhitekt piše »ustavo«. Pozivi, arhitekturni dokumenti (project-description.md, rules.md, skills.md en principles.md), stroge zahteve. Arhitekt določa kaj kaj gradimo, kdo to gradi, kako in zakaj.
• Izvršilna oblast (programski agenti): Izvajajo. Hitro, poceni in pod okriljem človeških razvijalcev.
• Sodna oblast (Oblikovalski organ): Neodvisna plast umetne inteligence, ki preverja skladnost z zakonom.

Sklep: nova vloga arhitekta

Osvobaja nas tiranije sintaktičnih napak in nam omogoča, da se osredotočimo na to, v čemer smo dobri: sistemsko razmišljanje, iskanje resnice, strukturo in sprejemanje odločitev.

Vprašanje ni, ali lahko umetna inteligenca napiše našo kodo. Ta tema je že zaključena. Koda bo večinoma postala potrošni izdelek za enkratno uporabo.
Vprašanje je: Si upaš opustiti nadzor nad kodo opustiti, da bi s tem znova pridobil nadzor nad kakovostjo ?

sporoči mi