← Назад к блогу

Почему 134 постоянных правила лучше запросов на подтверждение для работы ИИ

134 постоянных правила для ИИ: почему это лучше запросов на подтверждение. Меньше прерываний, меньше тихих сбоев, больше результата

Почему 134 постоянных правила лучше запросов на подтверждение для работы ИИ

Большинство команд контролируют ИИ-агентов одинаково: агент предлагает действие, человек нажимает «Разрешить», и все называют это системой безопасности. Это не так. Это дверной звонок, который звонит сорок раз в день, и после десятого звонка никто уже по-настоящему не слушает.

За четыре с половиной месяца мы заменили запросы на подтверждение как основной механизм контроля на 134 письменных постоянных правила — и перестроили вокруг них всё управление работой ИИ. В этой статье — девять вещей, которые мы теперь делаем иначе, и почему каждая из них важна с точки зрения бизнеса: меньше прерываний, меньше тихих сбоев и результаты ИИ, которым можно доверять без постоянного присмотра.

Почему запросы на подтверждение не работают как система управления

Запрос на подтверждение просит человека принять взвешенное решение почти без контекста, в условиях дефицита времени, десятки раз в день. Исследование прерываний на рабочем месте, проведённое Глорией Марк из Калифорнийского университета в Ирвайне, показало, что после прерывания требуется в среднем более 23 минут, чтобы полностью вернуться к исходной задаче. Агент, который прерывает старшего инженера даже десять раз в день, не находится под надзором — он разрушает рабочий день надзирающего, создавая при этом лишь ощущение контроля.

Есть и второй, более тихий режим отказа: усталость от подтверждений. Когда большинство запросов рутинные («прочитать этот файл?», «запустить этот тест?»), люди перестают их читать. Тот единственный запрос, который действительно важен — деструктивный, обращённый вовне — получает тот же рефлекторный клик, что и остальные тридцать девять. Это общий отраслевой паттерн, и он повторяет то, что команды безопасности годами знают об усталости от алертов: контроль, который срабатывает постоянно, — это контроль, который игнорируют.

Скептицизм, кстати, оправдан. В опросе разработчиков Stack Overflow 2025 года 46% разработчиков заявили, что активно не доверяют точности ИИ-инструментов — больше, чем в предыдущие годы, при том что использование продолжает расти. Ответ на это недоверие — не больше кликов. Ответ — более качественная структура управления.

Проще говоря: запросы на подтверждение — это менеджер, одобряющий каждое нажатие клавиши. Постоянные правила — это операционное руководство. Ни один серьёзный бизнес не работает по первой модели с сотрудниками-людьми, и нет никаких причин управлять так ИИ.

Девять вещей, которые мы делаем иначе

1. Безопасность живёт в письменных правилах, а не в кликах одобрения

Каждое повторяющееся спорное решение превращается в постоянное правило, как только возникает во второй раз. «Никогда не отправлять письмо без явного согласования». «Деплои идут только через путь safe-deploy, никогда — через сырую синхронизацию файлов». «Общие реестры изменяются только через аудируемый путь изменений, никогда напрямую».

Реальные цифры: на накопление 134 таких правил ушло четыре с половиной месяца. Звучит как много писанины. На деле это примерно одно короткое правило в день — по несколько минут на каждое — в обмен на устранение соответствующего запроса навсегда. Правило, написанное один раз, заменяет сотни будущих прерываний.

Аналогия, благодаря которой это для нас щёлкнуло: запросы на подтверждение — это досмотр в аэропорту, контрольно-пропускной пункт, который проверяет всё и замедляет всех. Постоянные правила — это строительные нормы: безопасность заложена в саму конструкцию, поэтому проверка происходит только там, где она действительно важна.

2. Правила фиксируют почему, а не только что

Правило «не перепривязывать ID серверов через SQL» соблюдается до первого неоднозначного случая, а потом нарушается. Правило «не перепривязывать ID серверов через SQL, потому что наивная перепривязка молча отключает аудиты безопасности» соблюдается и обобщается. Агент (или новый член команды) теперь может справиться со случаями, которые автор правила никогда не предвидел, потому что понимает, какой отказ это правило предотвращает.

Это разница между корпоративным справочником, где написано «личные доставки в офис запрещены», и справочником, объясняющим, что в прошлом декабре почтовая комната оказалась завалена. Первый порождает исполнительность; второй — здравое суждение.

3. Необратимые действия по умолчанию fail-closed

Свод правил делит все действия на два класса. Обратимые — чтение, анализ, черновики, правка файлов под версионным контролем — выполняются свободно. Трудно обратимые — отправка писем, деплой в продакшен, удаление данных, трата денег — останавливаются и ждут человека, всегда, какой бы уверенной ни была модель.

Это единственное разграничение убирает самое сложное решение из момента действия. Никто не решает в реальном времени, «наверное, нормально» ли пройдёт деплой. Категория была определена месяцы назад, письменно, когда никто никуда не спешил.

4. Подтверди, что проблема реальна, прежде чем её чинить

Самый дорогой режим отказа ИИ — не неправильный ответ, а уверенное исправление, применённое к несуществующей проблеме. Поэтому постоянное правило требует воспроизвести или верифицировать каждую заявленную проблему до внесения любых изменений. Каждое исправление проходит через два вопроса: что именно сломано (предмет) и какой тест доказывает, что оно сломано (проверка)?

Отраслевые данные говорят о том, что с ИИ эта дисциплина важнее, чем без него. Рандомизированное контролируемое исследование METR в 2025 году показало, что опытные open-source-разработчики на самом деле работали на 19% медленнее, используя ИИ-инструменты на собственных кодовых базах, — при этом считая, что стали быстрее. Значительная часть этого разрыва — время на проверку и исправление правдоподобных, но неверных результатов. Верификация до действия — вот как этот налог сокращается.

5. Проверяйте результаты, а не намерения

Рецензирование плана ИИ ощущается как надзор, но ничего не доказывает — планы как раз то, что языковые модели лучше всего умеют делать красивыми. Поэтому проверка переместилась на другой конец: дифф, прогон тестов, живое поведение. Каждая задача должна определять, как выглядит «сделано и проверено», до начала работы, а сама проверка выполняется после.

Управленческая параллель прямая. Компетентные менеджеры человеческих команд не присутствуют на каждой рабочей сессии; они определяют критерии приёмки и инспектируют результаты. Управление ИИ сходится к той же форме, просто быстрее и с более короткими циклами.

6. Долговременное знание идёт в каноническое хранилище, а не в чат

Контекст ИИ-сессии умирает вместе с сессией. Всё, что узнано в разговоре — подводный камень, решение, причина отклонения подхода, — испаряется, если не записано в постоянном месте. Отсюда постоянное правило: долговременное понимание фиксируется в каноническом, резервируемом хранилище (база данных, версионируемая документация) с привязкой к продукту, которому оно принадлежит. Память сессии — это кэш; каноническое хранилище — это истина.

Бизнес-тест для этого правила жесток и прост: если бы машина умерла сегодня ночью и была восстановлена из бэкапов завтра, была бы свежая ИИ-сессия немедленно продуктивной? Если ответ требует «заново объяснить всё, что мы выяснили в прошлом месяце», знание хранилось не там. Что это значит для вашего проекта: заложите бюджет на записывание — или платите за повторное открытие, раз за разом.

7. Маленькие обратимые шаги — с аудиторским следом для всего общего

Изменения «большим взрывом» — это то место, где уверенность ИИ наносит наибольший ущерб. Рабочее правило: наименьшее изменение, которое можно независимо проверить, затем следующее. А для всего общего — реестров конфигурации, записей, от которых зависят другие системы — изменения идут через аудируемый путь, который логирует, кто что изменил, с какого значения на какое.

Это не бюрократия; это та же причина, по которой банки используют гроссбухи, а не ластики. Когда что-то ломается через три недели, аудиторский след превращает криминалистическое расследование в пятиминутный поиск.

8. Отчёты доносят результат, а не журнал работы

У неуправляемого вывода ИИ есть характерный почерк: пять абзацев пересказа процесса, обёрнутых вокруг одного предложения собственно находки. Поэтому отчётность тоже регулируется правилами: сначала вердикт, потом доказательства, риски и подводные камни выведены на поверхность явно, никаких повторных объяснений того, что читатель уже знает. Глубина остаётся в работе; отчёт — это брифинг.

Накопительный эффект легко недооценить. Менеджер, читающий десять ИИ-отчётов в день, экономит существенное время, когда каждый начинается с ответа, — но больший выигрыш в том, что закопанные риски перестают быть закопанными. Беглый просмотр хорошо структурированного брифинга всё равно доносит всё важное. Беглый просмотр журнала работы не доносит ничего.

9. Автономия зарабатывается по категориям, а не выдаётся глобально

Эти 134 правила не статичны — они кодируют модель постепенного доверия. Действия с историей безопасного выполнения получают постоянное разрешение. Новые категории действий начинают под надзором. А когда что-то идёт не так, ответ никогда не звучит как «снова надзирать за всем» — это одно новое правило, покрывающее конкретный сбой, с приложенным «почему».

Это отражает то, как работает делегирование с людьми. Новый сотрудник не получает доступ к продакшену в первый день, а старшему инженеру не нужно одобрение, чтобы запустить тесты. Тотальные политики в любую сторону — полная автономия или полный надзор — одинаково являются управленческими провалами. Интересная работа находится посередине, и её нужно записывать.

Альтернативы и компромиссы

Честно говоря: у этого подхода есть реальные издержки, и он подходит не всем.

Подход Начальные затраты Текущие затраты Режим отказа
Одобрять каждое действие Нет Постоянные прерывания, усталость от подтверждений Единственный критичный запрос получает рефлекторный клик
Полная автономия, без правил Нет Уборка после инцидентов Необратимые ошибки без предупреждения
Постоянные правила (эта модель) Месяцы написания правил Поддержка правил Пробел в правилах остаётся незамеченным, пока не укусит

Модель постоянных правил концентрирует усилия в начале — там, где кликанье по запросам размазывает их незаметно. Для команды, использующей ИИ несколько часов в неделю, эта инвестиция, вероятно, никогда не окупится — нагрузка прерываний достаточно низка, чтобы запросы были приемлемы. Экономика переворачивается, когда ИИ работает ежедневно и без присмотра: при такой интенсивности каждый повторяющийся запрос — это повторяющийся налог, а каждое ненаписанное правило — латентный инцидент.

Модель также требует честности в отношении сбоев. Свод правил улучшается только если каждый инцидент порождает письменное правило, а не пожатие плечами. Команды, пропускающие пост-инцидентную запись, получают худшее из обоих миров: ни запросов, ни правил.

Ключевой вывод для бизнеса:

  • Запросы на подтверждение измеряют активность, а не безопасность. Человек, нажимающий «Разрешить» сорок раз в день, — это не надзор, это театр с приложенной стоимостью прерываний. Исследования прерываний говорят, что каждое переключение контекста стоит почти полчаса времени на повторную фокусировку.
  • Письменные правила — это актив; одобрения — это расход. Каждое из 134 постоянных правил было написано один раз и работает каждый день с тех пор. Каждый клик одобрения тратится в момент нажатия и не покупает ничего на завтра.
  • Структура управления важнее модели. Замедление на 19% в исследовании METR произошло с способными ИИ-инструментами — разрыв был в том, как работа проверялась и управлялась. Вот что мы рекомендуем: прежде чем обновлять модели, запишите те десять правил, которые вы сейчас применяете по одному клику одобрения за раз. Этот документ переживёт каждый инструмент, которым управляет.

Статья подготовлена на основе открытых источников и может содержать неточности.

Читайте также

✦ВыжимкаAI
  1. Запросы на подтверждение не создают реального контроля: по исследованию Глории Марк, одно прерывание отнимает в среднем 23 минуты восстановления, поэтому агент, прерывающий инженера 10 раз в день, разрушает его рабочий день, создавая лишь иллюзию надзора.
  2. Усталость от подтверждений — второй, тихий режим отказа: когда 39 из 40 запросов рутинные, люди перестают их читать, и единственный по-настоящему опасный запрос получает тот же рефлекторный клик — это прямой аналог alert fatigue в информационной безопасности.
  3. Рабочая альтернатива — каждое повторяющееся спорное решение превращается в постоянное письменное правило при втором появлении, смещая модель управления с «менеджер одобряет каждое нажатие клавиши» на «операционное руководство».

Powered by B1KEY