Industrija traži od NIST-a fleksibilne i dobrovoljne standarde za bezbednost AI agenata
Velike industrijske organizacije i tehnološka udruženja pozvala su američki NIST da standarde za bezbednost AI agenata zadrži fleksibilnim i dobrovoljnim. Kompanije smatraju da je oblast agentic AI još u ranoj fazi razvoja i da bi prerano nametanje rigidnih pravila moglo usporiti inovacije. Umesto toga, predlažu interoperabilne i risk-based smernice koje bi se uklapale u postojeće NIST bezbednosne okvire.
Pojašnjenje
AI agenti uvode nove bezbednosne izazove jer mogu autonomno izvršavati zadatke, koristiti više alata i pristupati spoljnim sistemima i bazama podataka. Industrija smatra da regulacija mora ostati dovoljno fleksibilna kako bi se bezbednosne prakse razvijale paralelno sa tehnologijom.
Preporuke
- Primenjivati risk-based pristup pri uvođenju AI agenata u organizaciji
- Voditi evidenciju o dozvolama i pristupima koje AI agenti imaju
- Pratiti ponašanje agenata u realnom vremenu i beležiti aktivnosti
- Proveravati integritet i poreklo koda koji pokreće AI agente
- Uskladiti bezbednosne prakse sa postojećim okvirima poput NIST Risk Management Framework