Rekli agentima da rade pentest: 85 provaljenih državnih naloga za četiri dana
Nije probijena nikakva bezbednosna brana koja sprečava AI agente da pomažu u sajber napadu. Rečeno je da rade na ovlašćenom bezbednosnom testiranju, i to je njima bilo dovoljno. Od 1. do 4. jula, četa instruisanih AI agenata prošla je kroz tajvanske državne sisteme, menjala taktiku po potrebi i sama širila potragu za novim metama. Izraelska firma Dream rekonstruisala je celu operaciju iz arhive od 160 MB i 1.395 fajlova, koju su napadači ostavili na internetu. Radni okvir operacije je sklopljen od Hermes i OpenClaw agenata, i radio je u 12 talasa sa najviše osam agenata istovremeno, svaki sa svojim zadatkom. Sa jednog od tajvanskih državnih portala izvukli su adrese, API-je i podešavanja sistema za prijavu, pa su kroz te informacije mapirali 21 povezani državni sistem i sve načine prijavljivanja. Zatim je uz prikupljena korisnička imena i predvidljive obrasce lozinki provaljeno u 85 državnih naloga. Sa 84 naloga su prošli dalje u povezane jedinstvene sisteme za prijavu (SSO), bez ijedne dodatne provere. Prema Dreamu, izneto je najmanje 2.564 zapisa o zaposlenima, cela baza korisnika jednog od sistema, sedam SSO tajni, šest lozinki za interne baze i podaci o unutrašnjoj mreži. AI agenti su paralelno sami pretraživali baze ranjivosti i GitHub tražeći nove tehnike za napad, usput analizirajući sopstvene greške. Operacija se potom proširila na IT dobavljače državnih sistema, sistem elektronske pošte, agenciju za nuklearnu bezbednost i najmanje sedam energetskih kompanija, koje su agenti dodatno pretraživali u potrazi za pogrešnim podešavanjima i otvorenim administratorskim pristupima. Dream napad ne pripisuje kineskoj vladi ni konkretnoj grupi, ali navodi da je u internoj komunikaciji naišao na pojednostavljeni kineski jezik.
Nije bilo nikakvog probijanja mehanizama zaštite: napadači su AI agentima predstavili akciju kao regularno testiranje bezbednosti, i oni su to prihvatili. O tom istom problemu u rasuđivanju smo pisali već dvaput — kad su AI pregledači odali lozinke jer im je rečeno da je to deo igre, i kad su Anthropicovi modeli, zbog greške u postavci testa, završili u sistemima tri stvarne firme uvereni da su i dalje u simulaciji. Ono što su tako nasamareni agenti specijalci našli nije ništa novo. Nezaštićeni API-ji, lozinke po poznatom šablonu i sistemi koji jedni drugima veruju bez pitanja — sve bi to našli i pravi pentesteri, ali je razlika u obimu i preciznosti: osam paralelnih agenata, bez pauze, sa mašinskom koncentracijom gde se nijedna greška ne pravi dva puta. Odbrana oduvek računa na to da i napadač ima ograničeno vreme i ograničenu pažnju, ali sa AI agentima to nije slučaj. Za nuklearnu agenciju, da ne bude zabune, nije potvrđen proboj — bila je na spisku onoga što je sistem tek počeo da ispituje. I bez te potencijalne apokalipse, ovo je dovoljno neprijatno i razlog da Tajvan uvede najviši stepen pripravnosti.
- Proveri koji API-ji i administrativni interfejsi vraćaju podatke bez prijave, posebno na sistemima vezanim za jedinstvenu prijavu
- Pogledaj šta javne stranice odaju o unutrašnjem ustrojstvu — adrese servisa, identifikatore aplikacija i podešavanja sistema za prijavu; agenti su celu akciju započeli od jednog portala
- Traži dodatnu proveru pri prelasku iz jednog poslovnog sistema u drugi; jedna prijava ne sme da otključa celo okruženje
- Potraži naloge sa lozinkama po šablonu i ukini pravila koja dopuštaju varijacije korisničkog imena, matičnog broja ili poznatih obrazaca
- Prati paralelne pokušaje prijave i sistematsko ispitivanje više servisa odjednom; automatizovan napad ostavlja drugačije tragove u logovima od čoveka
- U procenu izloženosti uključi dobavljače i povezane servise; agentima je prelazak na lanac snabdevanja samo još jedna stavka u redu čekanja