AI asistenti neboli agenti získávají stále větší možnosti jednat jménem uživatele – od práce se soubory a e-maily až po přístup k aplikacím, službám nebo vývojářským nástrojům.
AI asistenti neboli agenti získávají stále větší možnosti jednat jménem uživatele – od práce se soubory a e-maily až po přístup k aplikacím, službám nebo vývojářským nástrojům.
Nejnovější zpráva Gen Threat Report za 1. pololetí 2026 upozorňuje, že tím vzniká nová bezpečnostní rovina: nejde už jen o to, co model odpoví, ale co může v systému skutečně provést.
Jedním z hlavních rizik je nepřímé vkládání pokynů (prompt injection): útočník skryje škodlivé instrukce do webu, dokumentu, e-mailu nebo kódu a agent je může vyhodnotit jako legitimní pokyn. Výsledkem může být odesílání dat, klikání, stahování souborů nebo spouštění nástrojů bez toho, aby uživatel škodlivý příkaz viděl.
Platforma Sage Genu zachytila řadu vysoce rizikových vzorců chování AI agentů. Problém přitom nemusí spočívat v klasické zranitelnosti, ale v tom, že agent jedná s oprávněními, která mu uživatel nebo firma předem udělili. Mezi tyto vzorce patří:
- široká oprávnění k souborům, e-mailům, repozitářům (úložištím kódu a projektových souborů) nebo firemním účtům;
- spouštění systémových příkazů nebo kódu staženého z internetu;
- pokusy o vzdálené ovládnutí zařízení, například technikou reverse shell (napadené zařízení samo naváže spojení s útočníkem a umožní mu zadávat příkazy);
-
vytváření trvalého přístupu, například přidáním SSH klíče (digitálního klíče pro vzdálené přihlášení bez hesla).
KOMENTÁŘE