Людина в контурі керування агентною системою: розподіл відповідальності за дію

У статті досліджено проблему розподілу відповідальності та ефективності людського нагляду в контурі керування агентними системами на основі штучного інтелекту. Автор обґрунтовує, що вимога підтвердження дій користувачем часто виконує функцію перенесення відповідальності на людину, втрачаючи при цьому захисну функцію через формальність перевірки, високий темп та упередження автоматизації. У роботі виокремлено три стани контуру керування (вибір, затвердження, спостереження), визначено п'ять перевірних умов реального контролю (темп, частота, доступність підстав, здійсненність відмови, компетентність) та сформульовано шість практичних вимог до проєктування точок підтвердження в інтерфейсах.