Ін’єкція промптів як архітектурна загроза агентних систем: класифікація контрзаходів за рівнем дії

Стаття розглядає ін’єкцію промптів як архітектурну загрозу агентних систем на основі великих мовних моделей. Автор обґрунтовує, що вразливість виникає через подання інструкцій розробника та ненадійних даних у спільному контекстному вікні як однорідної послідовності токенів. Показано обмеженість фільтрації вхідних даних. Запропоновано класифікацію контрзаходів за чотирма рівнями дії: текст, модель, виконання та потоки (розділення потоків керування й даних). Для кожного рівня зазначено клас загроз, які він принципово не покриває. Зроблено висновок про невзаємозамінність рівнів і необхідність архітектурних змін для надійного захисту.