Ізоляція дій агента: рівні обмеження побічних ефектів

Стаття присвячена ізоляції дій агентних систем на основі великих мовних моделей як засобу обмеження побічних ефектів. Автор обґрунтовує, що надійність визначається не перевіркою текстового виходу (ймовірнісний бар’єр), а детерміністичним обмеженням середовища виконання. Запропоновано шкалу з шести рівнів ізоляції (Р0–Р5), упорядкованих за обсягом фізично унеможливлених наслідків: від відсутності обмежень до одноразового середовища без мережі та сталого сховища. Для кожного рівня зазначено принципові прогалини. Сформульовано умову достатності рівня ізоляції: множина неунеможливлених наслідків має бути підмножиною оборотних наслідків системи. Виокремлено три класи наслідків, недосяжних для ізоляції (дії користувача за хибною рекомендацією, розкриття вхідних даних, незворотні дії за призначенням системи).