Sledoval som, ako mi model načítal celú tabuľku do pamäte — len aby spočítal riadky. Deväť riadkov na mojom notebooku. Deväť miliónov v produkcii. Skompilovalo sa to, prešlo to review, vyzeralo úplne v poriadku — a vyžralo to serveru pamäť.
Modely sú dnes výborné na jazyk. Slabé na systém. Pri veľkej aplikácii (cez 1 700 modulov) to vidno hneď: AI nepozná vaše dáta, vašu architektúru, vaše konvencie. Spustí procesy, ktoré nik nedohliada, napíše úlohy na pozadí, ktoré sa nedajú bezpečne zopakovať, zabudne na kontrolu prístupu, ktorú má každá iná časť systému.
Pri AI-asistovanom vývoji nestačí „funguje to na lokále". Práve tu sa oplatí druhý pár očí — skôr, než to pôjde do produkcie.