ИИ галлюцинирует 1 из 5 пакетов — разбор слопсквоттинга
Слопсквоттинг разбор: ИИ выдумывает 1 из 5 пакетов, хакеры регистрируют и заражают вашу сборку — как защитить цепь поставок
Разработчик спрашивает ИИ-ассистента, как решить задачу, получает рабочий код плюс команду установки и запускает её — весь обмен занимает девяносто секунд. Если имя пакета в этой команде выдумано моделью, а позже зарегистрировано злоумышленником, вредоносный код только что попал в сборку с полным доступом к учётным данным, токенам и CI-пайплайну.
Это и есть слопсквоттинг: атака на цепочку поставок, которая не ждёт, пока ошибётся человек. Она ждёт, пока ошибётся ИИ — предсказуемо и в масштабе.
Что такое слопсквоттинг и чем он отличается от тайпсквоттинга
Тайпсквоттинг — старый трюк: злоумышленники регистрируют имена пакетов, похожие на популярные — requets вместо requests, — и делают ставку на то, что уставший разработчик опечатается в команде установки. Это работает, но зависит от индивидуальной человеческой ошибки — по одной опечатке за раз.
Слопсквоттинг убирает человека из уравнения. Большие языковые модели иногда рекомендуют пакеты, которых не существует, — правдоподобно звучащие имена, вписывающиеся в конвенции именования npm или PyPI, но никогда не публиковавшиеся. Злоумышленники могут собрать эти галлюцинированные имена, зарегистрировать их в публичном реестре с вредоносным кодом внутри и просто ждать. В следующий раз, когда любая модель предложит это имя любому разработчику где угодно, ловушка уже будет расставлена. Термин придумал Сет Ларсон, security developer-in-residence в Python Software Foundation, что задокументировано в материале The Register об этом исследовании.
Бытовая аналогия: тайпсквоттинг — это лавка подделок с вывеской, где имя написано с ошибкой, в расчёте на то, что вы её не разглядите. Слопсквоттинг — другое: ваш GPS уверенно ведёт вас в ресторан, которого никогда не существовало, а кто-то, изучивший привычки этого GPS, построил ларёк ровно по этому адресу и повесил ровно эту вывеску. Вы не сделали ничего неправильного. Вы следовали указаниям инструмента, которому доверяете.
| Тайпсквоттинг | Слопсквоттинг | |
|---|---|---|
| Триггер | Опечатка человека | Галлюцинация ИИ |
| Ставка атакующего | Кто-то опечатается в реальном имени | Модель заново выдумает то же фейковое имя |
| Масштаб | Одна ошибка за раз | Каждый пользователь каждой затронутой модели |
| Уверенность жертвы | Низкая — опечатка вызывает сомнения | Высокая — ответ ИИ звучит авторитетно |
Последняя строка — самое опасное. Разработчик, опечатавшийся в команде, может её перепроверить. Разработчик, получивший от ассистента чистый, уверенный ответ, обычно этого не делает.
Реальные цифры: как часто модели выдумывают пакеты
Это не теоретический риск. Совместное исследование Университета Техаса в Сан-Антонио, Университета Оклахомы и Virginia Tech — опубликованное на arXiv и принятое на USENIX Security 2025 — проверило 16 моделей генерации кода на 576 000 сгенерированных образцов кода. Выводы:
- 19,7% рекомендованных пакетов не существовали. Примерно один из пяти.
- Образцы дали 205 474 уникальных галлюцинированных имени пакетов — готовый список целей для любого, кто захочет их зарегистрировать.
- Коммерческие модели галлюцинировали пакеты примерно в 5,2% случаев; open-source-модели — в среднем в 21,7%.
- Ключевой результат: галлюцинации повторяются. Когда исследователи прогнали те же промпты десять раз, 43% галлюцинированных имён появлялись в каждом прогоне без исключения, а 58% повторились хотя бы однажды.
Именно эта повторяемость превращает причуду в поверхность атаки. Будь галлюцинации случайным шумом, регистрация фейковых имён была бы лотереей. Но поскольку модели воспроизводят одни и те же фейковые имена на одни и те же промпты, злоумышленник может собрать имена сегодня и быть достаточно уверенным, что завтра разработчикам порекомендуют их установить.
Атака уже была продемонстрирована в реальных условиях — ответственно. Исследователь безопасности Бар Ланьядо заметил, что модели раз за разом рекомендовали несуществующий Python-пакет huggingface-cli. Он зарегистрировал его как безобидный пустой пакет. За три месяца пакет скачали более 30 000 раз, а open-source-проект GraphTranslator от Alibaba даже включил его в свою инструкцию по установке. Ни эксплойта, ни социальной инженерии — просто галлюцинированное имя, зарегистрированное и ждущее.
Почему это важно для бизнеса
Атаки на цепочку поставок ПО — не нишевая проблема. Отчёт Sonatype State of the Software Supply Chain в редакции 2024 года зафиксировал более 512 000 вредоносных open-source-пакетов — рост на 156% год к году. Реестры — открытые маркетплейсы: любой может поставить коробку на полку под любым незанятым именем, а полка не проверяет, что внутри.
Экспозиция бизнеса складывается из трёх фактов:
Установка — это исполнение. В npm пакет может запускать скрипты в момент установки — ещё до того, как хоть одна его строка будет импортирована. Вредоносной зависимости не нужно использоваться, чтобы нанести ущерб; достаточно оказаться установленной на ноутбуке разработчика или CI-раннере, чтобы выкачать переменные окружения, облачные учётные данные и ключи подписи.
Одна зависимость наследует всё. Сборочный пайплайн обычно держит ключи деплоя, токены реестров и доступ к продакшен-инфраструктуре. Единственный отравленный пакет оказывается внутри этой границы доверия. Исследование IBM Cost of a Data Breach оценивает среднюю мировую стоимость утечки в $4,88 млн в 2024 году — а инциденты в цепочке поставок, как правило, длятся дольше и обходятся дороже, потому что их труднее обнаружить.
Внедрение ИИ умножает точки входа. Те же ассистенты, что ускоряют команды, генерируют и команды установки, которые вставляются без проверки. Родственная техника dependency confusion показала, как далеко достаёт этот класс атак: в 2021 году исследователь Алекс Бирсан с помощью двойников внутренних имён пакетов проник в сборочные системы более чем 35 компаний, включая Apple, Microsoft и Tesla, собрав за эту демонстрацию свыше $130 000 в bug bounty. Слопсквоттинг идёт по тому же шву доверия — реестру, — но с ещё более дешёвым способом угадывать имена: пусть их придумает ИИ.
Неудобная асимметрия: регистрация имени пакета не стоит атакующему ничего и занимает минуты. Защита, сделанная как следует, стоит команде нескольких часов настройки. Большинство команд эти часы так и не потратили.
Вот что мы рекомендуем
Защита от слопсквоттинга многослойна, и слои дёшевы относительно того, что они защищают. По возрастанию трудозатрат:
1. Считайте предложенные ИИ пакеты непроверенным вводом
Самая ценная привычка стоит около двух минут на каждую новую зависимость. Прежде чем устанавливать что-либо, предложенное ассистентом, откройте страницу пакета в реестре и проверьте три вещи: как давно пакет существует, сколько у него загрузок и ссылается ли он на реальный репозиторий с реальной историей. Пакет, зарегистрированный три недели назад, без репозитория и с именем, о котором никто не слышал, — красный флаг, как бы уверенно ИИ его ни рекомендовал. Это командная политика, а не инструмент — запишите её в онбординг-документ.
2. Лок-файлы — с принудительным соблюдением
Лок-файлы (package-lock.json, poetry.lock, pnpm-lock.yaml) фиксируют, какие именно пакеты и версии использует проект. Ключевое — принудительное соблюдение: CI должен устанавливать строго по лок-файлу (npm ci вместо npm install), чтобы галлюцинированный пакет не мог проскользнуть в сборку без явного, доступного для ревью изменения лок-файла. Для Python ту же гарантию даёт пиновка хэшей через pip-tools. Стоимость настройки: полдня. Эффект: каждая новая зависимость становится видимым диффом в код-ревью, а не тихим побочным эффектом.
3. Порог минимального возраста для новых пакетов
Слопсквоттинговые пакеты по определению зарегистрированы недавно — атакующий создаёт их уже после сбора галлюцинированных имён. Инструменты вроде Renovate и свежие версии pnpm поддерживают минимальный возраст релиза: они отказываются от пакетов или версий моложе заданного вами порога (скажем, 7–14 дней). Одна эта настройка нейтрализует значительную часть окна атаки, потому что вредоносные загрузки в реестры обычно обнаруживаются и удаляются в течение нескольких дней.
4. Сканирование зависимостей в CI
Сканеры вроде Socket, Snyk и Dependabot от GitHub помечают подозрительные пакеты: install-скрипты, обфусцированный код, внезапную смену мейнтейнера, известные сигнатуры вредоносного ПО. Socket в особенности нацелен на поведение в цепочке поставок — новенький пакет, который при установке читает переменные окружения и открывает сетевые соединения, будет помечен даже без известной сигнатуры. Интеграция измеряется часами, а проверки с этого момента выполняются на каждом pull request.
5. Приватный прокси-реестр — для команд побольше
Прокси-реестр (Verdaccio бесплатен; JFrog Artifactory и Sonatype Nexus — коммерческие варианты) ставит контролируемые ворота между разработчиками и публичным реестром. В сочетании со scoped-именами внутренних пакетов он также закрывает путь dependency confusion. Это самый тяжёлый вариант — примерно день настройки плюс постоянное сопровождение — и он имеет смысл, когда команда переросла горстку разработчиков или выпускает что-то регулируемое.
Что не работает в качестве основной защиты: просить модель в промпте «использовать только популярные, известные пакеты». Это уменьшает число галлюцинаций, но не устраняет их — и оставляет решение внутри той же системы, которая и совершила ошибку. Проверка должна жить вне модели.
Альтернативы и компромиссы
Полностью запретить ИИ-ассистентов. Это закрывает дверь слопсквоттингу, но выбрасывает реальную продуктивность — контролируемое исследование Copilot от GitHub показало, что с ассистентом разработчики выполняли эталонную задачу на 55% быстрее. Платить такой налог, чтобы избежать риска, который так же снимают две минуты проверки, — плохая сделка для большинства команд.
Зависимости только по allowlist. Некоторые регулируемые среды разрешают установку только из заранее одобренного внутреннего списка. Это самая сильная позиция — и самая дорогая: каждая новая библиотека требует цикла ревью, что может добавить дни к задачам, которые должны занимать часы. Разумно для бэкендов финтеха и здравоохранения; перебор для маркетингового сайта.
Только сканеры, без процесса. Инструменты без привычки к человеческой проверке реактивны — сканеры ловят известные плохие паттерны, но свежезарегистрированный пакет с отложенной полезной нагрузкой может пройти автоматическую проверку. Двухминутная инспекция реестра ловит то, что выдаёт сама новизна пакета.
Честная оценка: ни один слой сам по себе не достаточен, а самый эффективный контроль — заодно и самый негламурный: командная норма, по которой предложенные ИИ имена пакетов получают тот же скепсис, что и ссылка в неожиданном письме. Слои инструментов существуют для того дня, когда кто-то эту норму пропустит.
Главное для бизнеса
- Галлюцинированные ИИ пакеты — реальная, измеренная поверхность атаки, а не гипотеза. Исследование на 576 000 образцов кода показало, что примерно 1 из 5 предложенных пакетов не существовал, а 43% фейковых имён воспроизводились стабильно — достаточно стабильно, чтобы злоумышленники могли их «фармить».
- Экономика на стороне тех, кто защищается заранее. Полный защитный стек — привычка к проверке, строгие лок-файлы, порог минимального возраста, сканирование в CI — обходится небольшой команде в день-два настройки. Средняя утечка, от которой он защищает, стоит миллионы и, более конкретно, может отдать атакующему ваши ключи деплоя.
- Оставьте ассистентов, добавьте контрольную точку. Прирост продуктивности от ИИ-инструментов для кодинга стоит сохранить. Решение — не «меньше ИИ», а отказ позволять любому инструменту, человеку или машине, добавлять зависимость в ваш продукт без тридцати секунд доказательства, что она — то, чем себя называет.
Статья подготовлена на основе открытых источников и может содержать неточности.


