Savez za bezbedan AI — bez glavnih igrača
NVIDIA je okupila još 36 organizacija i kompanija u Open Secure AI Alliance, savez koji bi trebalo da napravi otvorene alate za zaštitu AI agenata. Na spisku su, između ostalih, Microsoft, Cisco, IBM, Red Hat, Cloudflare, CrowdStrike, Palo Alto Networks, Palantir, Dell, SAP, Siemens, Hugging Face i Linux fondacija. I sve su odreda firme koje prodaju produkcione slojeve oko modela: čipove, cloud, mrežu, baze, bezbednosne i poslovne sisteme. Nijedna od četiri kuće koje prave najbolje AI modele — OpenAI, Google, Anthropic i Meta — nije na listi. Posao koji savez najavljuje tiče se identiteta pod kojim agent radi, dozvola koje dobija, izolacije, evidencije rada, bezbednih formata i kontrole alata koje sme da uzme u ruke. Teza je da branilac mora imati dostupan model koji može da pokrene na svom hardveru, pogleda mu u kod i prilagodi ga poslu, a ne samo izbor servisa kojima pristupa onlajn. Povod je poznat: Hugging Face je usred julske istrage ostao bez pomoći komercijalnih modela, jer njihov filter nije umeo da razlikuje branioca od napadača. Na stolu je sada nova stvar — NOOA, otvoreni bezbednosni okvir koji objavljuje NVIDIA, u kojem se agent piše kao obična Python klasa, pa šta pamti i šta sme da radi može da se vidi u kodu, umesto da se razliva po promptovima. Objavljen je pre nedelju dana u verziji 0.0.6, kao istraživački preview. Ostalo su projekti koji su postojali i pre saveza, samo sada stoje pod istim barjakom. Statut, upravljački odbor, radne grupe, rokovi i zajednički repozitorijum nisu objavljeni; Linux fondacija je unutra kao neutralan domaćin, ali nije saopšteno da je savez i formalno njen projekat.
Ovo je koalicija produkcionog sloja oko modela, a ne savez onih koji ih prave. Kad se vrhunski AI dobija isključivo od nekoliko kompanija, svi ostali — od proizvođača čipova do bezbednosnih firmi — postaju podstanari na sopstvenom imanju. I to u trenutku incidenta, kad se zavisnost najteže podnosi. Otvorene težine i otvoren okvir oko njih vraćaju im ključ u ruke, a NVIDIA eto usput prodaje hardver na kojem će se vrteti ti lokalni, bezbedniji modeli. Zato spisak odsutnih govori jasnije od spiska prisutnih: linija se ne povlači između bezbednosti i nemara, nego između onih koji modele drže i onih koji ih koriste. Za nas obične smrtnike je dobra vest što se okruženje oko modela konačno tretira kao bezbednosni problem, jer se agentima najčešće ne otima pamet, nego dozvole. Loše je što je sve to za sada samo u obliku saopštenja koje prati pregrupisavanja sila, tj. ko je na čijoj strani.
- AI agenta tretiraj kao nalog koji izvršava radnje, a ne kao program koji piše tekst — daj mu sopstveni identitet i samo one dozvole i podatke koji mu trebaju za konkretan zadatak
- Kod koji model sam piše pokreći u kontejneru ili na virtuelnoj mašini, bez pristupa produkciji i kredencijalima; provera koda i zabrana pojedinih Python modula nisu izolacija, na šta i sam NOOA repozitorijum upozorava
- Beleži koji je alat agent pozvao, koji je kod izvršio i šta je promenio, pre nego što ti to zatreba za istragu
- Pre incidenta proveri da li tvoj AI servis uopšte sme da obradi exploit kod i komandno-kontrolne artefakte, i šta je plan ako usred istrage kaže ne
- Najave ovakvih saveza meri po objavljenom kodu, imenovanim održavaocima i rokovima, a ne po broju poznatih logotipa