Az utóbbi években az AI ügynökök egyre nagyobb szerepet kaptak a vállalati informatikai rendszerekben, azonban ez új biztonsági kockázatokat is magával hoz. Nikesh Arora, a Palo Alto Networks vezérigazgatója szerint az identitáskezelés jelenlegi rendszerei nem készültek fel az AI-alapú ügynökök gyors elterjedésére, ami komoly veszélyeket rejt magában.
Mi az az AI ügynök?
Az AI ügynökök olyan mesterséges intelligencia programok, amelyek hozzáférést kaptak a nagy nyelvi modelleken túlmutató külső erőforrásokhoz. Ez lehetővé teszi számukra, hogy szélesebb körű feladatokat hajtsanak végre, mint például egy chatbot, amely egy vállalati adatbázishoz kapcsolódik a retrieval-augmented generation (RAG) technika segítségével.
Egy AI ügynök akár komplexebb műveleteket is végezhet, például egyszerre több program funkcióhívását koordinálhatja a Model Context Protocol szabványon keresztül. Ezáltal képes nem-AI programokat is működtetni és összehangolni, automatizálva olyan feladatokat, amelyeket korábban emberek végeztek manuálisan.
Az identitáskezelés jelenlegi problémái
Arora rámutatott, hogy az AI ügynökök hozzáférése a vállalati rendszerekhez és érzékeny adatokhoz hasonló módon történik, mint az emberi munkavállalók esetében. Azonban az identitás- és hozzáférés-kezelési technológiák nem állnak készen arra, hogy hatékonyan kezeljék ezt a gyorsan növekvő „munkaerőt”.
“Ideális esetben minden nem emberi identitást szeretnék egy helyen látni és nyomon követni,” mondta Arora. Jelenleg azonban hiányzik egy átfogó rendszer, amely képes lenne kezelni az AI ügynököket és azok jogosultságait.
A fenyegetési felület bővülése
Mivel az AI ügynökök egyre több feladatot látnak el, jelentősen nő a vállalatok fenyegetési felülete. Egy ilyen ügynök egyszerre lehet „privilegizált” és „rendes” felhasználó is, így potenciálisan hozzáférhetnek a szervezet legértékesebb erőforrásaihoz – az úgynevezett „koronaékszerekhez”.
A jelenlegi identitáskezelő rendszerek dashboardjai nem alkalmasak arra, hogy átfogóan kövessék nyomon az AI ügynököket különböző rendszerekben. Az ilyen agenteknek cselekvési képességekkel kell rendelkezniük, amelyek konfigurálása ma még nehézkes és nem egységes iparági szinten.
Kiberfenyegetések és rosszindulatú támadások növekedése
A helyzetet tovább súlyosbítja, hogy rosszindulatú szereplők egyre inkább kihasználják az AI ügynököket rendszerekbe való behatolásra és adatok kiszivárogtatására. Emellett államok által támogatott kibertámadások is fokozódnak.
Például a smishing (SMS alapú adathalászat) támadások száma jelentősen nőtt: Palo Alto Networks kutatása szerint 194 000 internetes domain szolgál ezek terjesztésére. Ezek a támadások célzottan próbálják megszerezni a privilegizált felhasználók hitelesítő adatait.
A megoldás: integrált identitáskezelés és automatizált biztonsági folyamatok
Arora szerint két fő irányban kell lépéseket tenni:
- Integrált identitáskezelési platform kialakítása: A Palo Alto Networks idén megszerezte a CyberArk nevű identitáskezelő céget, amelynek eszközeit beépítve képesek lesznek egységesíteni a jelenleg széttagolt megoldásokat. Ez lehetővé teszi majd az egész vállalat összes identitásának átfogó kezelését – beleértve az AI ügynököket is.
- AI-alapú automatizáció alkalmazása a biztonsági műveletekben: Az új Cortex AgentiX termékük automatizáltan képes felismerni és reagálni kibertámadásokra. Több mint 1,2 milliárd valós fenyegetési forgatókönyv alapján tanult algoritmusok segítik a biztonsági elemzőket abban, hogy hatékonyabban kezeljék a komplex problémákat.
Az emberi felügyelet továbbra is kulcsfontosságú
Bár az automatizáció előretörése jelentős előrelépést hozhat, Arora hangsúlyozta, hogy a legtöbb döntést továbbra is emberi szakértők hozzák meg. Az AI ügynökök által végzett tevékenységeket mindig ellenőrizni fogják a SOC (Security Operations Center) elemzői.
“Ahogy fejlődünk, lehetőség lesz arra is, hogy bizonyos ismétlődő feladatokat teljesen autonóm módon végezhessenek el az AI agentek,” tette hozzá Arora. Ez fokozatosan növeli majd a biztonsági folyamatok hatékonyságát anélkül, hogy csökkenne a kontroll szintje.
Következtetés
A mesterséges intelligencia alapú ügynökök térnyerése új korszakot nyit a vállalati informatikában, de komoly kihívások elé állítja az identitás- és hozzáférés-kezelést. A jelenlegi rendszerek nem alkalmasak arra, hogy megfelelően kezeljék ezeket az új entitásokat, ami növeli a kibertámadások kockázatát.
A Palo Alto Networks vezetője szerint csak átfogó integrált megoldásokkal és intelligens automatizációval lehet biztosítani a jövőben a vállalatok védelmét. Az emberi szakértelem pedig továbbra is nélkülözhetetlen marad ebben a folyamatban.
Forrás: https://www.zdnet.com/article/enterprises-are-not-prepared-for-a-world-of-malicious-ai-agents/