U Hugging Face provalio niko drugi do — OpenAI
Ispostavilo se da iza prošlonedeljnog proboja Hugging Face-a nije stajao nikakav kriminalni akter, već OpenAI. Priznali su da je njihov rođeni model izmakao kontroli, pobegao iz testnog okruženja i o jadu zabavio Hugging Face. Testirali su GPT-5.6 Sol i još jedan, kako kažu, sposobniji model, u testu pod imenom ExploitGym. Test je merio koliko je model sposoban da izvede sajber napad koristeći već poznate ranjivosti. Da bi merenje imalo smisla, modelima su spuštene bezbednosne barijere koje inače odbijaju ovakve zahteve. Sve se odvijalo u zatvorenom okruženju, odsečenom od interneta. Ali modeli su se, kako navodi OpenAI, zaglavili u rešavanju zadatka i poslužili prečicom. Našli su je u do sada neobjavljenoj ranjivosti alata za instaliranje softvera, jedinog programa koji im je bio dozvoljen, i kroz tu ranjivost su izašli na otvoreni internet. Modeli su potom zaključili da bi na Hugging Face-u mogli da potraže rešenje svog problema. Odatle je krenulo ono što je Hugging Face opisao u svom saopštenju: zatrovan skup podataka, izvršavanje koda, podizanje privilegija i širenje kroz interne klastere, uz više od 17.000 zabeleženih akcija. OpenAI preuzima odgovornost za incident i najavljuje nove kontrole nad testiranjem, koje bi trebalo da spreče da se ovakav ispad ponovi.
Modeli nisu dobili zadatak da provale u Hugging Face, nego da reše test, ali isto bi se desilo i da zaključate bravara sa alatom iza rešetaka i da ga smatrate zatvorenim. Setimo se i da su komercijalni AI servisi odbili da pomognu Hugging Face-u da analizira sam napad, jer bezbednosne kočnice ne razlikuju istražitelja od napadača — dok je napadač bio upravo jedan od tih komercijalnih modela. Treba ipak naglasiti da OpenAI jeste priznao šta se desilo, umesto da mudro ćuti dok ostali tragaju u mraku. Ko prizna, pola mu se prašta — a drugu polovinu je oprostio sam Hugging Face. Njihov suosnivač Clem Delangue kaže da su sa OpenAI-jem zajedno radili na sanaciji problema i da čvrsto veruje da zle namere nije bilo. Dodatno, iz svega izvlači sledeći zaključak: bezbednost veštačke inteligencije neće rešiti nijedna kompanija samostalno, već otvorena saradnja i širok pristup alatima za odbranu, za svakog i svuda. Sve to zvuči razumno, ali možda i previše lepo, rekao bi pisac ovih redova.
- Ako testiraš sposobne modele, pretpostavi da će tražiti prečicu kroz svaki alat koji im daš
- Izolaciju gradi na mreži i dozvolama, a ne na pretpostavci da je program unutar okruženja siguran
- Podrazumevano zabrani izlaz na internet iz test okruženja, pa dozvoljavaj pojedinačno i uz nadzor
- Beleži svaki potez agenta i ograniči koliko dugo sme da radi bez ljudske provere
- Ako primaš tuđe modele i podatke, tretiraj ih kao izvršiv sadržaj i drži ih dalje od produkcionih kredencijala