Talijanski stručnjak za digitalne tehnologije Marco Camisani Calzolari nedavno je objavio kratak video koji je u nekoliko dana skupio preko 40.000 pregleda. Priča kreće od jedne poruke koju je dobio: poznanik mu je poslao „genijalnu ideju koja će promijeniti Silicon Valley" i zamolio ga da je testira. Uz ideju je stigla i adresa na kojoj rješenje navodno živi.
Adresa je glasila: http://127.0.0.1.
Tko se razumije, već se nasmijao. Za ostale: ta adresa radi isključivo na računalu osobe koja ju je napravila. Izvana je nitko ne može otvoriti. Autor „revolucionarnog proizvoda" testirao je nešto što postoji samo na njegovom laptopu — i nije to ni znao.
Calzolari programira četrdeset godina. Njegova poanta nije ismijati početnika, nego upozoriti na nešto šire: danas su alati za izradu aplikacija dostupniji nego ikad, pa sve više ljudi bez tehničke podloge u kratkom roku „složi" nešto što na prvi pogled izgleda kao gotov proizvod. Entuzijazam je razumljiv. Ali „izgleda da radi" i „radi" dvije su posve različite stvari — i razlika među njima često se vidi tek kad je kasno.
Pet znakova da „izgleda da radi" — ali zapravo ne radi
Calzolari nabraja simptome koje viđa svakodnevno. Prevedeno iz jezika programera u jezik naručitelja, ovako izgledaju:
Podaci nestanu kad osvježite stranicu. Dodate pravog klijenta ili rezervaciju, kliknete „spremi", ekran se promijeni — izgleda super. Osvježite stranicu i nema ničega. Sustav je „pamtio" podatke u vašem pregledniku, ne u bazi. Ništa nije stvarno spremljeno.
Lozinke i pristupni ključevi stoje otvoreni u kodu. Bilo tko tko dođe do koda dolazi i do njih. Calzolari opisuje slučajeve gdje su tako ukradeni ključevi doveli do računa s pet nula.
Demo je pun izmišljenih podataka. Imena, tablice, grafovi — ručno upisani u kod da prezentacija izgleda bogato. Iza toga nema ničega.
Padne čim dođe više korisnika. Radi dok ste sami. Dođe deset ljudi i sustav stane, jer besplatni servis na kojem počiva jednostavno prestane raditi.
Kad pukne, nitko ne zna zašto. Jer nitko nikad nije znao što je ispod. Ni autor.
Zašto je ovo problem baš za javni i komunalni sektor
Ako netko sebi napravi jednostavnu stranicu za vježbu, posljedice nosi sam — i to je sasvim u redu. Ali kad govorimo o općini, komunalnom poduzeću, vodovodu, turističkoj zajednici ili obrtu koji prima rezervacije, na stolu su tuđi podaci i tuđi novac:
- Rezervacija je transakcija — iza nje stoji ime, kontakt i ponekad uplata gosta.
- Prijava komunalnog problema sadrži ime i adresu građanina.
- Sezona je nepovratna. Sustav koji „padne" usred srpnja ne možete vratiti u lipanj.
Kad podaci građana ili gostiju procure iz sustava sklepanog u nekoliko sati, to više nije nezgoda pojedinca — to je obveza prijave nadzornom tijelu, rizik kazne po GDPR-u i gubitak povjerenja koji se teško vraća.
Poziv organizatorima edukacija: pazite što financirate
Edukacija o AI alatima je korisna i potrebna — što više ljudi razumije ove tehnologije, to bolje. Gradovi, obrtničke i gospodarske komore koji organiziraju takve radionice rade dobru i vrijednu stvar, i upravo zato su u jedinstvenoj poziciji da ona bude ispravno usmjerena.
Vrijedi, međutim, paziti na jednu granicu. Postoji bitna razlika između „naučite osnove i napravite nešto za sebe" i poruke da se u jedan vikend može „složiti" gotov rezervacijski ili evidencijski sustav za stvarne goste i građane. Prva je vrijedna vještina. Druga, ako ostane bez konteksta, lako stvori zabludu — polaznik ode uvjeren da ima gotov proizvod, a zapravo ima prototip koji će se srušiti na prvom stvarnom opterećenju.
Institucija koja financira edukaciju daje joj i svoj pečat povjerenja: ako to organizira grad ili komora, polaznik razumno pretpostavlja da je sadržaj provjeren i siguran za primjenu. Zato je dobro da organizatori vode računa da ono što financiraju jasno razlikuje učenje od produkcije — i da, gdje je moguće, uključi i onu drugu, jednako važnu vještinu: kako prepoznati i naručiti rješenje koje će izdržati.
Što edukacija treba i naučiti: kako provjeriti rješenje
Uz „kako nešto napraviti", svakom komunalnom poduzeću, općini i obrtu jednako koristi i vještina kako naručiti i provjeriti digitalno rješenje. Četiri pitanja koja svatko može postaviti dobavljaču, bez da je tehničar:
- Gdje se točno spremaju podaci? U pravoj bazi ili u pregledniku korisnika?
- Tko stoji iza održavanja? Koga zovem kad u srpnju nešto stane?
- Što se događa kad broj korisnika poraste? Drži li sustav stotinu istovremenih upita ili samo demo?
- Je li demo na pravim ili izmišljenim podacima?
Calzolari zaključuje jednostavno: alat radi samo ako znate što radite i ako biste istu stvar mogli napraviti i ručno. U suprotnom — ne.
Mi u KomunalAI-ju gradimo upravo suprotnost „sklepanom" rješenju: AI asistent nad stvarnom bazom, s podacima na infrastrukturi u Hrvatskoj koja ne napušta zemlju, usklađen s GDPR-om, EU AI Act-om te normama ISO 9001 i ISO/IEC 27001 — i s nekim tko se javi kad zazvoni telefon. Jer pitanje nije hoćete li koristiti AI — pitanje je hoćete li vi biti u tom razgovoru, ili netko tko ne zna što je ispod.