Cereblab tvrdi: Grok CLI šalje korisnički repozitorijum na eksterni server, čak i kada korisnik isključi tu mogućnost
Prema analizi koju je objavio istraživač pod imenom cereblab, Grok Build CLI šalje ceo projekat — svaki fajl i celu istoriju izmena — u svoje eksterno skladište. Istraživač je presreo saobraćaj preko mitmproxy-ja i objavio snimak kao dokaz. Na tom snimku, pored uobičajene komunikacije sa AI modelom, alat pakuje kompletan git repozitorijum i šalje ga u Google Cloud bucket pod imenom „grok-code-session-traces”. Na test-projektu od 12 GB, samom AI modelu je po tim nalazima otišlo oko 192 KB, a na eksterno skladište preko 5 GB podataka pre nego što je snimanje prekinuto. Slati su, navodi istraživač, i fajlovi kojima agent nikada nije pristupao. Podmetnuti .env sa lažnim lozinkama pojavio se u saobraćaju nezamaskiran. Istraživač tvrdi da se slanje nastavljalo čak i po gašenju opcije „Improve the model” — server je i dalje vraćao zastavicu trace_upload_enabled: true. Dan nakon objave, u ponovljenom testiranju, alat je počeo da vraća disable_codebase_upload: true. U šest ponovljenih pokušaja više nije bilo skrivenog prebacivanja repozitorijuma. xAI se povodom svega nije javno oglasio — za sada nema ni potvrde ni demanta, ni reči o tome šta će biti sa kodom koji je već na ovaj način prikupljen.
Problem, ako se ovi nalazi potvrde, nije samo u tome što je alat slao previše informacija na eksterni server, nego što je prekidač koji kaže „ne šalji” postojao, a — sudeći po snimljenom saobraćaju — nije imao nikakvu ulogu. Ispravka je isporučena bez pojašnjenja o tome šta će se dešavati sa već eksfiltriranim sadržajem. Za razvojne timove pouka je ista, bez obzira na ishod ovog konkretnog slučaja: tajna u repozitorijumu koji je prošao ovakav tretman nije više tajna. A, lekcija je šira od Groka. Skoro svaki AI alat za kodiranje šalje nešto kući, a retko ko zaista proverava šta tačno napušta mašinu i gde to završava. Kod nas politike o tome šta sme da ode sa radne stanice u većini slučajeva i nema — alat se instalira i startuje sa apsolutnim pravima radi većeg komfora u radu, a šta kome šalje - koga briga.
- Ako je neko u timu koristio Grok Build CLI nad privatnim repozitorijumom, rotiraj sve tajne iz njega — API ključeve, lozinke, tokene; „nema dokaza o zloupotrebi” nije isto što i „nije izašlo napolje”
- Za Grok Build CLI postavi disable_codebase_upload = true u ~/.grok/config.toml i GROK_TELEMETRY_ENABLED=false; ne oslanjaj se samo na prekidač „Improve the model”
- Ne drži .env, ključeve i backup fajlove unutar git repozitorijuma u koji puštaš AI alate — koristi secret menadžer i .gitignore
- Za svaki AI alat proveri u dokumentaciji, a po potrebi i presretanjem saobraćaja, šta zaista napušta mašinu i gde se čuva
- Uvedi pravilo ko sme da instalira agente za kodiranje na mašine sa pristupom produkciji i privatnim repozitorijumima