Im szybciej narzędzie pozwala ci pisać kod, tym szybciej pozwala ci zepsuć produkcję. Przypadek PocketOS to nie jest
przestroga przed technologią – to surowy dowód na to, że praca z AI bez zdefiniowanego harnessu to proszenie się o
biznesowe samobójstwo.
Wszyscy korzystamy z tych samych klocków. Cursor to obecnie standard, a modele od Anthropic dowożą ficzery w czasie, który
jeszcze rok temu wydawał się niemożliwy. Ale to tempo ma swoją cenę: usypia czujność architektoniczną.
Sekunda, która wyparowała bazę danych
Scenariusz w PocketOS był rutynowy. Programista potrzebował skryptu do migracji i wyczyszczenia starych rekordów. Wrzucił
prompt do Cursora, Claude wypluł kod w dwie sekundy. Składnia była perfekcyjna, czysta, wręcz podręcznikowa. Cursor
wyświetlił przycisk „Apply”, dev kliknął, zaakceptował zmiany i pchnął to dalej.
Problem polegał na tym, że przepotężny LLM uznał, że najskuteczniejszym sposobem na „wyczyszczenie” tabeli jest po prostu
jej całkowite zaoranie. Brak jednego warunku WHERE sprawił, że skrypt przeszedł przez bazę produkcyjną jak walec. Puf.
Dane przestały istnieć.
To nie był błąd juniora, który nie zna SQL-a. To był błąd systemu pracy, który założył, że AI posiada kontekst, którego
fizycznie mieć nie może.
Iluzja kompetencji i junior na sterydach
Musisz zrozumieć jedną rzecz: AI to junior na sterydach. Pisze z taką pewnością siebie, że odruchowo zakładasz: „dobra,
ten model jest mądrzejszy ode mnie, na pewno ogarnął edge-case’y”. To najkrótsza droga do fackupu.
Claude nie ma pojęcia, czy operuje na lokalnym pliku .sql, czy na kręgosłupie Twojej firmy. Jeśli nie wbijesz mu tego
łopatą do głowy w prompcie systemowym, model zaproponuje najbardziej radykalne i najszybsze rozwiązanie. Zbyt dobre
Developer Experience (DX) zredukowało tarcie między „wygeneruj” a „uruchom” do absolutnego minimum. Kiedy tarcie znika,
wyłącza się myślenie.
Autonomiczni agenci nie wybaczą Ci braku definicji
Przerabiam setki tysięcy tokenów dziennie z autonomicznymi agentami. Widziałem te błędy wielokrotnie u siebie. Kiedy
oddajesz pełną władzę nad plikami maszynie, prędzej czy później usłyszysz: „Sorki, właśnie wywaliłem Twoje dane. Masz
gdzieś kopię?”.
Agenci AI mają ułatwiać życie, ale nie zastąpią Twojej architektury. Jeśli Twoim jedynym mechanizmem weryfikacji jest
„wydaje mi się, że kod wygląda OK”, to nie masz systemu. Masz tykającą bombę.
Jak budować bezpieczny harness wokół AI?
Nigdy nie podaruję agentowi plików do edycji bez izolacji. To nie jest kwestia braku zaufania do technologii, tylko
zrozumienia jej ograniczeń.
Zacznij od nadania agentom ich własnego „placu zabaw”. Jeśli zamierzasz pozwolić maszynie na modyfikację Twojej pracy,
zawsze twórz kopię i nazywaj ją z dopiskiem „_AI”. To wymusza moment pauzy – musisz fizycznie porównać zmiany, zanim
wpuścisz je do głównego obiegu.
Rób kopie zapasowe tak często, jakbyś pracował z najbardziej nieprzewidywalnym stażystą na świecie. Bo tym właśnie jest
obecne AI: genialnym, błyskawicznym, ale całkowicie pozbawionym instynktu samozachowawczego wykonawcą.
Konkluzja jest surowa
Narzędzia nie rozwiążą problemu, którego sam nie rozumiesz. Jeśli nie potrafisz opisać procesu krok po kroku i przewidzieć
punktów krytycznych, AI tylko przyspieszy moment, w którym Twój chaos uderzy w ścianę.
Własny system workflow to nowy standard. Za kilka lat każdy poważny właściciel firmy będzie miał własny harness. Ci,
którzy zrozumieją to dziś, budują niezależność. Reszta będzie płacić za sprzątanie po własnych „asystentach”.