← Назад к блогу

Защищённые от подделки журналы аудита для ИИ-агентов: подробный разбор

Как защитить журналы аудита ИИ-агентов от подделки? Разберём почему обычные логи небезопасны и как доказать, что действительно произошло.

Защищённые от подделки журналы аудита для ИИ-агентов: подробный разбор

Проблема: ИИ-агенты действуют, но никто не может доказать, что произошло

ИИ-агент казначейства инициирует перевод $50 000 в USDC поставщику. Транзакция завершается менее чем за две секунды. Деньги ушли. И тут кто-то спрашивает: кто это авторизовал? Какая политика это допустила? Агент был скомпрометирован или работал штатно?

Согласно анализу защищённых от подделки журналов аудита от Getkontext, если журнал аудита хранится в обычной базе данных или лог-файле, вы не можете доказать, что записи не были изменены постфактум. Агент — или любой, у кого есть доступ к базе данных — мог переписать историю.

Это не гипотетический пограничный случай. Gartner зафиксировал рост на 1 445% числа запросов о мультиагентных системах между первым кварталом 2024 и вторым кварталом 2025 года, как отмечается в исследовании Zylos AI об ответственности агентов. Предприятия разворачивают ИИ-агентов, которые назначают встречи, обрабатывают платежи, изменяют инфраструктуру и взаимодействуют с клиентами — без того чтобы человек нажимал «подтвердить» на каждое действие.

Проще говоря: организации управляют ИИ-системами вслепую, не имея возможности объяснить или обосновать решения, которые эти системы принимают.

Почему руководителям бизнеса стоит обратить внимание прямо сейчас

Регуляторные сроки — это не абстракция

EU AI Act обязывает вести защищённое от подделки логирование для ИИ-систем высокого риска начиная со 2 августа 2026 года. Статья 12 требует, чтобы такие системы «были спроектированы и разработаны с возможностями автоматической записи событий (логов) на протяжении всего жизненного цикла системы». Штрафы за несоблюдение достигают €35 миллионов или 7% мирового годового оборота — в зависимости от того, что больше.

Это касается не только европейских компаний. Любая организация, обслуживающая пользователей из ЕС или разворачивающая ИИ-системы, затрагивающие резидентов ЕС, попадает под действие закона.

Помимо Европы, регуляторное давление нарастает в разных отраслях:

  • HIPAA §164.312(b) требует механизмов записи и проверки активности в системах, содержащих защищённую медицинскую информацию.
  • CMMC AU.2.042 требует отслеживания и записи действий процессов, действующих от имени авторизованных пользователей.
  • NYDFS Part 500, раздел 500.6 требует наличия журналов аудита, предназначенных для обнаружения и реагирования на события кибербезопасности.
  • Калифорния обязывает работодателей хранить данные автоматизированных систем принятия решений в течение 4 лет.

FTC уже показала, что не шутит. Она оштрафовала DoNotPay на $193 000 за вводящие в заблуждение заявления об ИИ и запустила Operation AI Comply в сентябре 2024 года. Затем FTC выпустила обязательные предписания 7 компаниям с требованием предоставить полную документацию по аудиту ИИ, а позднее начала проверки ещё 7 компаний, как сообщает Aiqarus.

Разрыв в ответственности — реален

В анализе IBM по теме надёжных ИИ-агентов для комплаенса описывается так называемая проблема RACI для ИИ-агентов — определение того, кто является Ответственным, Подотчётным, Консультируемым и Информируемым, когда ИИ-агент принимает автономное решение. Аудиторы могут запрашивать у агента объяснения спустя 12 месяцев после автоматизированного действия. Если логи неполные, изменяемые или отсутствуют, ответственность несёт организация, владеющая агентом.

Честно говоря: само по себе автономное действие — это тот барьер, который мешает многим предприятиям выводить агентный ИИ в продакшн. Без верифицируемой записи того, что произошло и почему, юридические и комплаенс-команды будут — и должны — блокировать развёртывание.

Что на самом деле означает «защищённый от подделки»

Обычный лог-файл записывает события. Защищённый от подделки журнал аудита делает нечто принципиально иное: он делает любую модификацию обнаруживаемой.

Как поясняет Kiteworks в руководстве по интеграции с SIEM, защита от подделки — это техническое свойство, а не политическое. Оно требует архитектурного механизма — криптографического связывания, однократно записываемого хранилища или их эквивалента — который делает модификацию обнаруживаемой.

Представьте это как сургучную печать на конверте. Печать не мешает кому-то вскрыть письмо. Но она делает невозможным вскрытие и повторное запечатывание без следов. Защищённый от подделки журнал аудита работает точно так же для цифровых записей.

Цепочка дайджестов: как это работает без математики

Основной механизм называется цепочка дайджестов (иногда — хеш-цепочка). Каждая запись в логе содержит криптографический отпечаток, зависящий от предыдущей записи, создавая цепочку, в которой изменение любой отдельной записи делает недействительными все последующие.

Представьте стопку пронумерованных фотографий, где на каждом фото видны временная метка и номер предыдущего фото на заднем плане. Если кто-то уберёт фото №47 и заменит его, фотографии с №48 по №500 будут содержать неправильный номер ссылки. Подделка становится очевидной.

Традиционные методы логирования — логи приложений, реляционные базы данных, потоки только для добавления — имеют общую критическую слабость: данные изменяемы на уровне хранилища. Администратор, скомпрометированный агент или злоумышленник с доступом к базе данных может переписать записи. Цепочка дайджестов исключает это, делая каждую запись математически зависимой от всех предшествующих.

Пять уровней полноценного журнала аудита

Согласно полному руководству Fast.io, полноценный журнал аудита ИИ-агента состоит из пяти отдельных уровней:

1. Идентичность

Какой агент выполнил действие? Не просто имя процесса — а криптографически верифицированная идентичность. Индекс ИИ-агентов MIT 2025 года обследовал развёрнутые агентные системы и обнаружил, что только одна (ChatGPT Agent) использовала криптографическую подпись запросов. Все остальные системы полагались на более слабые методы идентификации.

Это важно, потому что без строгой идентификации невозможно отличить легитимного агента от захваченного. Как формулирует исследование Zylos AI: «ответственность в мультиагентном ИИ — это не проблема логирования, а проблема идентичности и полномочий».

2. Входные данные

Что вызвало действие агента? Исходный запрос, предоставленный контекст и любые данные, к которым агент обратился для принятия решения. Этот уровень фиксирует «почему» за «что».

3. Рассуждение

Какой логике следовал агент? Какие политики были проверены? Какие альтернативы рассматривались и были отклонены? Это тот уровень, который большинство систем аудита полностью упускают — и именно он больше всего интересует аудиторов.

4. Действие

Какая конкретная операция была выполнена? Не «обработана транзакция», а «переведено $50 000 USDC с кошелька 0x... на кошелёк 0x... через Base L2 в момент времени T». Конкретность важна, потому что расплывчатые логи юридически бесполезны.

5. Результат

Каков был итог? Действие завершилось успешно? Были ли побочные эффекты? Что изменилось в состоянии системы? Этот уровень замыкает цикл и обеспечивает воспроизведение инцидентов.

Проектирование журнала аудита, который выдержит аудит

Четыре ключевых принципа проектирования

Руководство по комплаенсу от Cordum выделяет четыре принципа проектирования, отличающих готовый к комплаенсу журнал аудита от обычного лог-файла с претензиями:

Сквозная непрерывность временной шкалы. Единая временная линия на каждый запуск, включающая приём запроса, проверку политик, согласования, детали отправки, повторные попытки, финальный статус и результаты пост-проверок безопасности. Фрагментированные логи в нескольких системах создают пробелы, которые аудиторы обнаружат.

Привязка к политикам. Каждое действие должно ссылаться на политику, которая его авторизовала. Журнал должен отвечать не только на вопрос «что произошло», но и «почему это было разрешено». Минимальная запись должна содержать поля для соответствующего правила, цепочки согласований (кто одобрил, когда) и подписи целостности.

Криптографическая целостность. Каждая запись должна содержать хеш предыдущей записи и цифровую подпись (Ed25519 или аналогичную). Это создаёт свойство защиты от подделки — любая модификация разрывает цепочку.

Тестируемые сценарии комплаенса. Система должна быть спроектирована так, чтобы проходить четыре конкретных тестовых сценария: проверка отклонённого действия, проверка цепочки согласований, воспроизведение инцидента и проверка области действия. Если журнал аудита не поддерживает эти четыре сценария, он не готов к продакшну.

Что большинство логов агентов делают неправильно

Вот на что мы рекомендуем обратить особое внимание: большинство систем логирования ИИ-агентов фиксируют не те данные. Как отмечает Kiteworks, инфраструктурные логи записывают API-вызовы, логи модельного вывода записывают входные и выходные токены, а логи оркестрации записывают статус выполнения задач. Ни один из них не записывает, к каким регулируемым данным был получен доступ, каким конкретно агентом, по какой авторизации и с каким результатом применения политики.

Журнал аудита, соответствующий требованиям, должен быть операционным, полным по атрибуции, защищённым от подделки и работающим в реальном времени. Он должен записывать, к каким именно регулируемым данным был получен доступ, каким аутентифицированным агентом, по какой авторизации человека, какая операция выполнялась, каков результат применения политики, в какой момент времени — для каждого взаимодействия.

Реальные цифры: организации с инфраструктурой журналов аудита имеют на 50% меньше ручных процессов и на 30% меньше пробелов в комплаенсе, согласно анализу Aiqarus за 2026 год.

Подходы и компромиссы

Вариант 1: Встроить в фреймворк агента

Наиболее основательный подход — каждое действие агента проходит через уровень аудита перед выполнением. Инструменты вроде Nobulex (открытое промежуточное ПО) демонстрируют этот паттерн с помощью языка правил, построенного на трёх ключевых словах: permit, forbid и require. Каждая запись содержит криптографический хеш, связывающий её с предыдущей, а проект подтверждает свои заявления 6 100+ тестами в 61 npm-пакете.

Плюсы: Глубокая интеграция, фиксирует уровень рассуждений, может применять политики в реальном времени. Минусы: Требует модификации кода агента, добавляет задержку к каждому действию, создаёт зависимость.

Вариант 2: Подход на основе прокси

Разместить прозрачный прокси между агентом и его инструментами. Прокси логирует каждый запрос и ответ без модификации агента или целевого сервиса.

Плюсы: Не требует модификации агента, может быть добавлен к существующим развёртываниям, фиксирует уровни действий и результатов. Минусы: Не может фиксировать рассуждения или внутренний процесс принятия решений, добавляет сетевой переход, единая точка отказа.

Вариант 3: Интеграция с SIEM

Подключить журналы аудита агентов к существующей системе управления событиями и информацией безопасности (SIEM). Это превращает журнал аудита из комплаенс-артефакта в средство управления в реальном времени, позволяя обнаруживать нарушения управления в процессе — кампанию несанкционированного доступа, идущую инъекцию промпта или событие с широким радиусом поражения.

Плюсы: Использует существующую инфраструктуру безопасности, обеспечивает оповещения в реальном времени, знакома командам безопасности. Минусы: Требует качественного журнала аудита для подачи в SIEM (мусор на входе — мусор на выходе), стоимость лицензий SIEM растёт с объёмом логов.

Вариант 4: Логи, привязанные к блокчейну

Периодически закреплять контрольные точки цепочки дайджестов в публичном блокчейне, создавая внешнее доказательство того, что журнал аудита существовал в определённом состоянии в определённый момент времени.

Плюсы: Наиболее сильная гарантия защиты от подделки, возможна внешняя верификация. Минусы: Стоимость каждой привязки, задержка, добавляет сложность, может быть избыточным для большинства сценариев.

Честно говоря: большинству организаций следует начать с Варианта 1 или комбинации Вариантов 1 и 3. Подход через прокси (Вариант 2) работает как временное решение для систем, уже находящихся в продакшне и не поддающихся быстрой модификации. Привязка к блокчейну (Вариант 4) оправдана для финансовых операций или сценариев, где внешнее доказательство требуется по закону.

Позиция Всемирного экономического форума

Регуляторный и управленческий импульс в пользу журналов аудита исходит не только от законодателей. Всемирный экономический форум официально заявил, что автономные ИИ-системы должны регулироваться как операционные участники, а не как аналитические инструменты: если ИИ-система может действовать, она должна быть также аудируемой.

Это различие имеет значение. Аналитические инструменты (рекомендательный движок, классификационная модель) выдают результаты, которые проверяет человек. Операционные участники (ИИ-агент, который совершает сделки, модифицирует код, отправляет электронные письма) создают последствия. Требования к аудиту операционных участников принципиально иные — и значительно выше.

Как выглядит запись, готовая к комплаенсу

Минимальная запись для каждого действия агента должна включать:

  • Идентичность агента: криптографически подписанный идентификатор
  • Временная метка: высокоточная, синхронизированная между системами
  • Входные данные: событие или запрос, вызвавший действие
  • Оценка политики: какое правило сработало, каким было решение
  • Цепочка согласований: требовалось ли согласование человека, кто одобрил, когда
  • Детали действия: конкретная операция, целевая система, параметры
  • Результат: успех/неудача, побочные эффекты, изменения состояния
  • Поля целостности: хеш предыдущей записи, хеш текущей записи, алгоритм подписи

Эта структура связывает намерение, политику, согласование, выполнение и результат в единую последовательную временную линию — именно то, что руководство Cordum определяет как стандарт готовности к комплаенсу.

Ключевые выводы для бизнеса

Во-первых: защищённые от подделки журналы аудита больше не являются опцией. Срок по EU AI Act — август 2026 года — конкретен, штрафы серьёзны (до €35 млн или 7% выручки), а FTC уже применяет требования к документации в Соединённых Штатах.

Во-вторых: существующее логирование агентов в большинстве случаев недостаточно. Запись API-вызовов и количества токенов не удовлетворяет регуляторным требованиям. Журнал аудита должен фиксировать идентичность, авторизацию, оценку политик и результаты на уровне операций — с криптографической защитой от подделки.

В-третьих: стоимость доработки задним числом всегда выше, чем встроенное проектирование. Организациям, развёртывающим ИИ-агентов сегодня, следует рассматривать архитектуру журналов аудита как обязательное требование к запуску, а не как будущий проект по комплаенсу. По нашему опыту с продакшн-развёртываниями агентов, команды, которые строят инфраструктуру аудита на раннем этапе, тратят значительно меньше времени на ответы по комплаенс-запросам, чем те, кто пытается восстановить записи постфактум.

Что это значит для вашего проекта: если ИИ-агенты принимают решения или выполняют действия в ваших системах, начните с пятиуровневой модели (Идентичность, Входные данные, Рассуждение, Действие, Результат), добавьте криптографическое связывание и протестируйте по четырём сценариям комплаенса (проверка отклонённого действия, проверка цепочки согласований, воспроизведение инцидента, проверка области действия). Этот фундамент выдержит независимо от того, какое конкретное регулирование применимо к вашей отрасли.

Часто задаваемые вопросы

Как можно убедиться, что ИИ-агент не подделал собственные логи аудита?

Архитектура цепочки дайджестов делает самоподделку обнаруживаемой. Каждая запись в логе содержит криптографический хеш, зависящий от всех предыдущих записей. Если агент изменит любую запись, каждый последующий хеш станет недействительным. Сочетание этого с однократно записываемым хранилищем и внешней привязкой (периодическая отправка контрольных сумм в независимую систему) исключает возможность незаметного переписывания агентом собственной истории.

Что мешает захваченному агенту быть неотличимым от легитимного?

Криптографическая подпись запросов — когда каждое действие агента подписывается уникальным ключом, привязанным к верифицированной идентичности агента. Индекс ИИ-агентов MIT 2025 года обнаружил, что только один из обследованных развёрнутых агентов использовал этот механизм, что показывает, насколько рано индустрия находится в решении этой проблемы. Без криптографической идентичности скомпрометированный агент может выдавать себя за легитимного, и ни один журнал аудита не зафиксирует разницу.

Может ли подход на основе прокси добавить журналы аудита без модификации агента или сервера?

Да. Прозрачный прокси размещается между агентом и его целевыми системами, логируя каждый запрос и ответ. Это обеспечивает фиксацию уровней Действия и Результата без изменения кода агента. Ограничение в том, что он не может зафиксировать уровень Рассуждения — что агент рассматривал внутренне перед действием — а это зачастую самая ценная информация для аудиторов и расследователей инцидентов.

Какая внешняя запись существует для доказательства того, что ИИ-агент не удалил данные в продакшне?

Наиболее сильная гарантия обеспечивается привязкой контрольных сумм журнала аудита к внешней неизменяемой системе — будь то публичный блокчейн, отдельный сервис однократно записываемого хранилища или независимая SIEM-система. Это создаёт доказательство того, что журнал аудита существовал в определённом состоянии в определённый момент времени. Если записи впоследствии удалены или изменены, внешняя привязка выявляет расхождение.

Статья подготовлена на основе открытых источников и может содержать неточности.

Читайте также

✦ВыжимкаAI
  1. Хранить логи действий ИИ-агента в обычной базе данных или лог-файле недостаточно: любой, кто имеет доступ к БД, включая самого агента, может переписать историю задним числом — а значит, доказать, что именно произошло, принципиально невозможно без криптографической защиты.
  2. Регуляторные требования к защищённым от подделки журналам уже конкретны и скоро вступят в силу: EU AI Act обязывает внедрить такое логирование для систем высокого риска с 2 августа 2026 года, штрафы — до €35 млн или 7% мирового оборота, и закон распространяется на любую компанию, обслуживающую пользователей из ЕС.
  3. Разрыв между скоростью внедрения агентов и уровнем контроля над ними уже критический: Gartner зафиксировал рост запросов по мультиагентным системам на 1 445% за полтора года, при этом агенты обрабатывают платежи и меняют инфраструктуру без подтверждения человеком каждого действия.

Powered by B1KEY