Agentni AI — sledeća slepa zona u sajber bezbednosti

Kolege, želim da skrenem pažnju: u oblasti sajber bezbednosti agentni AI već izvršavaju zadatke i pristupaju podacima bez učešća bezbednosnih timova.

Vidim tri ključne grupe rizika:
1) kodni i produkcioni agenti u radnim procesima developera;
2) vendorski agenti integrisani preko MCP — deluju u ime servisa;
3) custom agenti koje može sastaviti bilo koji zaposleni i koji često ne prolaze reviziju.

Zašto je važno: široke privilegije agenata povećavaju potencijalnu štetu — od mejla do repozitorijuma.

Preporučujem uključivanje bezbednosnog tima u fazi projektovanja i sticanje praktičnog iskustva sa agentima.

Kako Vi pripremate svoj tim za kontrolu agentnih AI?

#sajberbezbednost #AI #DevSecOps #informacionaBezbednost