Five Eyes agencije upozoravaju na prebrzo uvođenje agentic AI sistema
Bezbednosne agencije zemalja iz Five Eyes saveza objavile su zajedničke preporuke za pažljivo uvođenje agentic AI sistema, uz poruku da organizacije ne treba da daju prednost produktivnosti ispred otpornosti i kontrole rizika. U dokumentu učestvuju CISA, NSA, britanski NCSC, kanadski Cyber Centre, novozelandski NCSC i australijski ASD ACSC. Preporuke upozoravaju da agentic AI sistemi često povezuju više alata, komponenti, API-ja i spoljnih izvora podataka, čime se širi površina napada. Posebno se naglašavaju rizici preširokih privilegija, nepredvidivog ponašanja, brisanja tragova, zloupotrebe integrisanih alata i slepog poverenja između agenata.
AI agent nije samo chatbot koji daje odgovor, već softver koji može da izvršava radnje, koristi tokene, menja sisteme i poziva druge alate. Ako se takvom sistemu daju široka prava bez jasnih granica, audit traga i obavezne ljudske potvrde, jedna pogrešna instrukcija ili kompromitovan alat mogu postati operativni incident.
- Agentic AI uvoditi postepeno, počev od jasno definisanih i niskorizičnih zadataka
- Za svakog AI agenta definisati vlasnika, svrhu, dozvole, dozvoljene akcije i uslove za ljudsku potvrdu
- Primijeniti least privilege na tokene, API pristupe, alate i podatke koje agent koristi
- Obezbediti audit log koji agent ne može sam da menja, briše ili zaobilazi
- Planirati fail-safe ponašanje, tako da agent stane i eskalira čoveku kada nije siguran ili kada radnja ima veliki uticaj