Skill Passed Scanners and Installed on Thousands — AI Security Implications

Veština je prošla skenere i instalirala se na hiljade agenata — zaključci za zaštitu AI

Kolege, pažnja: AIR je u oblasti sajberbezbednosti objavila lažnu veštinu brand-landingpage koju, tvrdi kompanija, instalirano na ~26.000 agenata, uključujući korporativne naloge (nije potvrđeno).

Suština:
- Skeneri proveravaju samo paket; spoljne URL-ove ne analiziraju.
- AIR je koristila poverljive signale (GitHub stars, oglas) za instalacije.
- Nakon instalacije, stranica je zamenjena; veština je skupljala email i mogla izvesti opasnije akcije s pravima agenta.

Preporuke: tretirajte veštine kao softver — verifikujte spoljne URL-ove, vodite verzije, minimizujte privilegije i revidirajte instalirane veštine.

Važno: jedan skener nije dovoljan ako veština učitava instrukcije izvana.

Koje korake smatrate prioritetnim u Vašoj organizaciji?

#sajberbezbednost #AI #bezbednostlanca #bezbednostagenta