Microsoftov AI sam testira mrežu i krpi propuste
Microsoft 3. avgusta pušta u javni probni rad Project Perception, sistem u kojem tri ekipe AI agenata rade nad mrežom kupca. Crveni gledaju infrastrukturu očima napadača i traže put do onoga što je važno. Plavi prosejavaju upozorenja, odvajaju teorijski propust od praktičnog i pišu pravila za detekciju. Zeleni rešavaju probleme: pišu pravila, menjaju podešavanja i sugerišu izmene programskog koda. Novo je to što agenti ne ostaju na savetima, već preko tzv. aktuatora menjaju postavke okruženja, uz obećanje da će se radnje sa bitnim posledicama prepuštati ljudima. Ispod svega stoji sistem koji povezuje uređaje, naloge, aplikacije, podatke i ranije incidente, pa agent nije izgubljen u magli, nego rezonuje dokle napadač u određenom okruženju može da stigne. Uz Perception stiže i MAI-Cyber-1-Flash, prvi Microsoftov model za traženje ranjivosti; radi unutar MDASH-a koji sa preko sto paralelnih agenata traži, osporava i potvrđuje nalaze. Mali model nosi oko 90 odsto posla, a najteže slučajeve prosleđuje deset puta većem GPT-5.4. Taj par je na testu CyberGym postigao 95,95 odsto, oko 12 poena više od Anthropicovog Mythosa 5, uz upola manji trošak. Ovo su merenja kompanije, bez nezavisnog uvida u rezultate. MDASH već ima istoriju od 16 pronađenih propusta u Windows mrežnim i autentifikacionim komponentama, od kojih su četiri kritična za daljinsko izvršavanje koda, i oni su zakrpljeni u majskom ciklusu. Naplata ide po potrošnji, u Security Compute Units, a cena po jedinici još nije objavljena.
CyberGym meri lakši deo posla: agent se pušta na programski kod pre zakrpe i sa opisom propusta, a cilj je da dokaže i pokaže kako taj propust radi. Vođenje incidenta, odgovornost za rezultate i bezbednost primenjenih zakrpa se u tom testu ne procenjuju. Nije pitanje ume li mašina da završi posao, nego gde leži granica odgovornosti između onoga što se radi automatski i onoga što traži odobrenje administratora — a nju Microsoft ne pokazuje. Pogrešno pravilo može da zaustavi legitiman saobraćaj, a brzopleta popravka koda ruši ceo sistem. Zaposleni slobodno može očekivati da će ga mašina izbaciti sa računara, ukoliko oceni da je to potrebno. U svakom slučaju, nemojte još uvek planirati smanjivanje bezbednosnog tima, jer će neko morati da odlučuje o tome šta mašina sme, a šta ne sme da radi.
- Probni rad drži u režimu posmatranja dok ne vidiš koliko agent greši, i proveri koliko sistem pokriva ono što nije Microsoft — lokalne servere, druge cloud provajdere, mrežnu opremu
- Svakom agentu daj poseban identitet sa minimalnim i vremenski ograničenim privilegijama; crveni, plavi i zeleni ne smeju deliti isti lanac pristupa
- Izolaciju uređaja, blokiranje naloga, izmene zaštitnog zida i promene produkcionog koda zadrži pod ljudskim odobrenjem, i unapred definiši kako se svaka akcija vraća unazad
- Napadačke provere pokreći u dogovorenim terminima i nad sistemima čiji vlasnici znaju šta se testira
- Meri potvrđene nalaze, lažne uzbune, odbijene predloge i potrošene SCU jedinice — pre nego što ti račun objasni koliko košta AI koji radi bez prestanka