Tvorci najmoćnijih AI modela poručuju da odbrana nije spremna za ono što se pravi
Blizu 130 tehnoloških, bezbednosnih i finansijskih organizacija potpisalo je otvoreno pismo koje traži hitno jačanje sajber odbrane pred sve sposobnijim AI modelima. Inicijativu vodi OpenAI, a potpisali su je Microsoft, Google, Anthropic, Cisco, Cloudflare, CrowdStrike, IBM, Oracle, Palo Alto Networks, SAP, Mastercard, Visa i Deutsche Telekom, među ostalima. Poruka je da će napadi postati brojniji i složeniji, dok bolnice, vodovodi i druge osnovne službe i dalje rade na zastarelom softveru, sa slabim mehanizmima zaštite i preširokim ovlašćenjima. Od organizacija se traži da prvo poprave svoje najveće ranjivosti i provere rezultate primenjenih mera. Od bezbednosnih firmi da odbranu kontinuirano testiraju protiv onoga što najnapredniji modeli umeju i da utvrđene nalaze otvoreno dele. Od vlada se traži da novcem i ljudima pomognu bolnicama, lokalnim upravama i kritičnoj infrastrukturi. Od samih AI kompanija traži se odgovorniji pristup najjačim modelima i alati kojima se može utvrditi šta je koji agent radio. OpenAI uz to nudi subvencionisan pristup svojim Daybreak Cyber modelima delu javnog sektora, neprofitnih organizacija i održavalaca otvorenog koda. Pismo nije standard, nije obavezujuće i ne osniva nikakvo telo. Zanimljiv je i sastav: pre mesec dana NVIDIA je okupila sličan savez od 37 organizacija, u kojem nije bilo nijedne od četiri kuće koje prave vodeće modele.
Spisak zadataka iz pisma nije nov. Zakrpi najopasnije, suzi ovlašćenja, uvedi jaku kontrolu prijava, proveri da li su popravke izvršene. To se piše najmanje deset godina i svaka stavka je starija od veštačke inteligencije. Ono što se promenilo je rok. Dok je za iskorišćavanje propusta nekada trebalo vreme i znanje, propust star pet godina mogao je da se provuče neprimećen. Sada to više nije slučaj. Utoliko je poruka poštenija nego što na prvi pogled izgleda. Ne nudi se neka nova AI zaštita kao rešenje za probleme koje AI ubrzava. Vredi ipak primetiti odakle poziv dolazi. Tri nedelje ranije objavljeno je da su agenti jedne od potpisnica provalili u infrastrukturu Hugging Face-a, a ista firma je pre nekoliko dana zaustavila sopstveni trening zbog procene da model postaje preopasan. Poziv da svet pojača odbranu izgleda drugačije kada dolazi od onih koji prave ono od čega treba da se brani. Kod nas se pismo najviše tiče onih koji ga neće ni pročitati: domova zdravlja, komunalnih preduzeća i opština koje jedva da imaju nekog da im zameni toner.
- Izdvoji najrizičnije poznate slabosti u okruženju i proveri da li su zaista sanirane, a ne samo označene kao rešene
- Za sisteme koji ne mogu odmah da se zakrpe uvedi i testiraj zamenske kontrole, umesto da rizik ostane samo zapisan
- Kod koji je napisao AI pregledaj po istim ili strožim pravilima kao kod koji su pisali ljudi
- Ako koristiš agentske sisteme, obezbedi da svaki ima svoj identitet i zapis rada, da se kasnije može utvrditi ko je šta uradio
- Ako radiš u ustanovi bez novca i ljudi, proveri koje su besplatne i subvencionisane ponude stvarno dostupne — obećanja iz ovakvih pisama vrede tek kad se neko prijavi