ESET upozorava na bezbednosnu krizu u platformama za AI agente i njihove skill-ove
ESET Research upozorava da platforme za AI agente i njihovi skill-ovi postaju nova visoko rizična tačka napada, jer agenti više nisu samo interfejs za razgovor već alati koji planiraju, pretražuju i izvršavaju radnje u ime korisnika. U analizi više od 60.000 skill-ova, ESET navodi da je hiljade označio kao sumnjive, a stotine kao zlonamerne. Istraživači su uočili skill-ove koji kradu session tokene i API ključeve, preuzimaju i pokreću malver, menjaju ponašanje agenta kroz prompt injection i postepeno usmeravanje, kao i slučajeve u kojima se zlonamerne radnje kriju iza naizgled benignih funkcija. ESET dodatno opisuje i AI-fix napade, varijantu ClickFix pristupa u kojoj se zlonamerna uputstva hostuju na domenima velikih AI servisa kroz javne artefakte ili slične stranice, čime dobijaju privid legitimnosti. Pored upozorenja, kompanija je predstavila i besplatan alat ESET AI Skills Checker, namenjen proveri skill-ova pre instalacije i praćenju njihovog ponašanja kroz više faza izvršavanja.
Ovo je važno zato što se bezbednosni problem pomera sa modela na ekosistem oko modela. U praksi, najveći rizik više nije samo šta model odgovori, već šta agent može da instalira, preuzme, pokrene i kome može da pošalje podatke. Ako firme počnu da uvode AI agente bez kontrole nad skill-ovima, dobiće novi supply-chain problem, samo upakovan kao produktivnost.
- Tretirati AI skill-ove kao softver, a ne kao bezazlene prompt dodatke, i uvoditi proveru pre instalacije
- Ograničiti privilegije AI agenata i dozvoliti im samo pristup koji je stvarno potreban za konkretan zadatak
- Pinovati verzije skill-ova i pratiti promene, jer tihi update može pretvoriti benignu funkciju u zlonamernu
- Posebno proveravati skill-ove koji izvršavaju komande, pristupaju tajnama, menjaju fajlove ili komuniciraju sa spoljnim izvorima
- Koristiti alat kao što je ESET AI Skills Checker ili sličan behavior-aware mehanizam između AI agenata i otvorenog interneta