Верифікаційний шар в архітектурах систем на основі LLM-агентів: систематизація за джерелом істини

Стаття присвячена верифікаційному шару в архітектурах систем на основі LLM-агентів. Автор обґрунтовує необхідність виокремлення верифікації як самостійного архітектурного шару, який перехоплює вихід агента до виконання дії, та систематизує механізми перевірки за джерелом істини. Запропоновано шість рівнів: відсутність перевірки, самоперевірка, перехресна перевірка, політика втручання, виконавча перевірка та формальна перевірка. Показано, що рівні 1–2 лише знижують імовірність помилки, тоді як рівні 3–5 забезпечують гарантії лише в межах свого джерела. Практичним висновком є вимога зазначати в описі архітектури конкретний рівень верифікації та межі його дії, а не сам факт наявності перевірки.