Обнаружение ИИ-контента в браузере: история создания ClassifierAI
Обнаружение ИИ-контента в браузере: история создания ClassifierAI для спасения сообщества DEV от волны машинно-сгенерированного контента.
Проблема: можно ли ещё определить, кто это написал?
Инструменты ИИ-письма теперь выдают посты в блогах, комментарии и руководства, которые читаются так, будто их написал толковый человек. Для сообщества разработчиков вроде DEV это создаёт тихую, но вполне реальную головную боль: когда лента заполняется машинно-сгенерированными постами, читатели перестают доверять тому, что читают, а люди, пишущие по-настоящему полезные статьи, тонут под этим объёмом.
Именно этот разрыв взялся закрыть небольшой проект под названием ClassifierAI. Созданный двумя разработчиками — с GitHub Copilot в роли третьей пары рук — это прототип Chrome-расширения, который помечает вероятный ИИ-сгенерированный контент прямо внутри интерфейса DEV. Он был представлен на GitHub Finish-Up-A-Thon Challenge — событии того типа, что призвано подтолкнуть к финишу наполовину доделанные сайд-проекты.
ClassifierAI — это не отполированный, готовый к выпуску продукт, и команда честно об этом говорит. А для всех остальных именно эта честность и делает проект достойным изучения. Это чистый, взятый из реальной жизни пример трёх вещей, с которыми рано или поздно сталкивается любая продуктовая команда: насколько быстро может двигаться крошечная команда с помощью ИИ, какое место занимают браузерные расширения как модель доставки, и почему «обнаруживать ИИ-контент» куда сложнее, чем звучит на слайде.
Почему это важно для бизнеса
Подлинность контента перестала быть абстрактной заботой. Платформы, маркетплейсы, команды по найму и издатели — все теперь задают один и тот же вопрос: этот текст написан человеком или это вывод машины? Ответ влияет на затраты на модерацию, на доверие, на SEO, а в некоторых случаях — и на юридические риски.
Первый порыв — предположить, что детектор может ответить на этот вопрос зелёной галочкой или красным флажком. Реальность запутаннее, и именно там, где вывод детектора принимают за вердикт, а не за подсказку, компании обжигаются. Прототип вроде ClassifierAI — это дешёвый способ усвоить этот урок до того, как он окажется в продуктовом роадмапе или в политике модерации контента.
В этом проекте прячется и второй сигнал для бизнеса: команда из двух человек довела рабочий браузерный инструмент до пользователей в рамках ограниченного по времени челленджа. Это напрямую говорит о том, как маленьким командам стоит определять масштаб амбициозных идей — и как ИИ-парное программирование меняет арифметику.
Что такое ClassifierAI на самом деле
Если отбросить обрамление, проект прост: это Chrome-расширение, которое читает контент на странице DEV и выдаёт сигнал о том, выглядит ли он ИИ-сгенерированным.
Думайте о браузерном расширении как об инструменте, пристёгнутом к панели, которой вы и так пользуетесь каждый день. Пользователю не нужно ставить отдельное приложение, переключать вкладки или вставлять текст на другой сайт. Проверка происходит там, где и так идёт чтение. Это размещение «в потоке» — главная причина, по которой браузерные расширения бьют выше своего веса: трение при внедрении близко к нулю, потому что инструмент встречает людей там, где они уже работают.
Само обнаружение — это по-настоящему трудная часть, и мы отнесёмся к ней честно, а не будем делать вид, будто хакатонный прототип решил проблему, которую не решили и хорошо финансируемые лаборатории.
Главный урок: двое людей плюс Copilot выпустили нечто работающее
Самый воспроизводимый вывод здесь — не детектор, а размер команды. Двое разработчиков, один ИИ-ассистент, один работающий прототип в рамках дедлайна.
Реальные цифры: собственное контролируемое исследование GitHub показало, что разработчики выполняли задачу по кодингу на 55% быстрее с Copilot, чем без него. Эта цифра взята из конкретной эталонной задачи, а не гарантия для любого проекта — но направление согласуется с тем, что сообщают небольшие команды. Скучный, отнимающий время каркасный труд (настройка манифеста расширения, парсинг DOM, обвязка API-вызова, форматирование результата) — это ровно тот вид работы, который ИИ-ассистент ускоряет сильнее всего.
Что это значит для вашего проекта: ИИ-парное программирование не превращает двух человек в десять. Оно убирает трение на тех частях работы, которые хорошо изучены и повторяемы, и это позволяет маленькой команде тратить свои дефицитные часы на части, действительно требующие суждения — в данном случае на логику обнаружения и на пользовательский опыт.
Проще говоря: заголовок здесь не «ИИ построил приложение». Он звучит так: «небольшая команда использовала ИИ, чтобы пропустить шаблонный код и быстро выпустить проверяемую идею». Для студии или фаундера это куда более ценный паттерн, потому что его можно переиспользовать на следующем проекте, и на том, что после него.
По нашему опыту с прототипами маленьких команд, до финиша доходят те проекты, что заточены под единственный наблюдаемый результат — здесь это «показать сигнал на посте DEV». А буксуют те, что пытаются за один заход построить и детектор, и дашборд, и систему аккаунтов, и аналитику. Формат Finish-Up-A-Thon помог: жёсткий дедлайн вынуждает команду урезать масштаб до того, что реально можно выпустить.
Трудная часть, которую никто не выносит на лендинг: ИИ-детекторы ненадёжны
Вот здесь честность важнее энтузиазма. Обнаружение ИИ-сгенерированного текста — нерешённая задача, и прототип — не то место, где она решается.
Честно говоря: даже компания, создающая самый популярный ИИ-писатель, не смогла сделать для него надёжный детектор. OpenAI запустила AI Text Classifier в начале 2023 года и тихо закрыла его в июле 2023 года, сославшись на низкую точность. Их собственные опубликованные цифры отрезвляли: инструмент верно опознавал как «вероятно написанный ИИ» лишь 26% ИИ-текста, при этом ошибочно помечая 9% написанного человеком текста как ИИ. Детектор, который пропускает три из четырёх ИИ-фрагментов — и при этом ещё иногда обвиняет настоящего человека, — это не то, что вы хотите видеть молча фильтрующим контент или принимающим решения о модерации.
Сторона ложных срабатываний — более опасная для бизнеса. Стэнфордское исследование, опубликованное в 2023 году, показало, что детекторы GPT неверно классифицировали значительную долю эссе, написанных людьми, для которых английский неродной, как ИИ-сгенерированные — в одной выборке эссе TOEFL было помечено больше половины. Причина механическая, а не злонамеренная: детекторы часто опираются на «предсказуемость» письма, а люди, пишущие на втором языке, склонны использовать более распространённые, предсказуемые формулировки. В итоге получается инструмент, который может систематически наказывать реальную человеческую группу.
Представьте детектор как спам-фильтр. Спам-фильтр, который иногда пропускает мусор, раздражает. А спам-фильтр, который регулярно отправляет письма ваших настоящих клиентов в корзину, — это уже угроза. Детекторы ИИ-контента стоят гораздо ближе ко второму случаю, чем большинство людей предполагает.
Всё это — не критика ClassifierAI. Это реалистичный контекст, который любая команда должна держать в голове, заходя в подобный проект. Правильная рамка для детектора в 2026 году — «подсказка, приглашающая человека присмотреться внимательнее», а не «вердикт». Прототип, выдающий мягкий сигнал, по-настоящему полезен. А продукт, который авто-банит или авто-отклоняет на основании того же сигнала, — это проблема, ждущая своего часа.
Браузерное расширение против альтернатив: честное сравнение
ClassifierAI поставляется как Chrome-расширение. Это осознанный компромисс, и стоит разложить варианты так, как мы сделали бы для клиента, решающего, как доставить любой контекстный инструмент.
Браузерное расширение
- Сильные стороны: Живёт внутри страницы, которую пользователь и так читает, поэтому трение при внедрении минимально. Быстро прототипируется. Нет серверных затрат, если логика работает локально.
- Слабые стороны: Привязано к одной браузерной экосистеме (здесь — Chrome), подчиняется политикам ревью магазина и ограничено тем, что разрешает браузер. Обновления зависят от того, держат ли пользователи расширение установленным.
- Лучше всего, когда: Вам нужен личный или общественный инструмент, дополняющий существующий сайт, который вы не контролируете.
Серверный API или веб-приложение
- Сильные стороны: Не зависит от браузера, проще обновлять централизованно, может запускать более тяжёлые модели.
- Слабые стороны: Пользователю приходится выйти из своего рабочего потока, чтобы вставить туда текст. Внедрение падает каждый раз, когда вы просите кого-то переключить контекст. Вы также несёте постоянные инфраструктурные затраты.
- Лучше всего, когда: Обнаружение — это и есть продукт, а не приложение сбоку.
Модерация, встроенная в платформу
- Сильные стороны: Работает у источника, может действовать на контент до того, как его кто-либо увидит, масштабируется вместе с платформой.
- Слабые стороны: Построить это может только владелец платформы. Для контента в стиле DEV это означает, что для независимой команды такой вариант недостижим.
- Лучше всего, когда: Вы владеете платформой и принимаете ответственность за ложные срабатывания.
Вот что мы рекомендуем любой команде в этой сфере: прототипируйте как браузерное расширение, потому что это выводит реальный инструмент к реальным пользователям за дни, а не месяцы — а затем переходите к серверному сервису только если логика обнаружения действительно требует больше вычислений, чем может дать браузер. Начинать с тяжёлой архитектуры — классический способ для маленьких команд сжечь свой запас прочности ещё до того, как они хоть чему-то научатся.
Ключевые выводы для бизнеса
ClassifierAI — это прототип, а прототипы и должны учить большему, чем выпускают. Этот учит трём вещам, которые стоит запомнить.
Ключевой вывод для бизнеса: обнаружение ИИ-контента — это сигнал, а не вердикт. Когда компания, построившая ведущий ИИ-писатель, сняла собственный детектор из-за низкой точности, она тем самым задала реалистичный потолок. Стройте детекторы, чтобы помечать контент для проверки человеком, и никогда — чтобы автоматически наказывать: цена ложных срабатываний, особенно против пишущих на неродном английском, слишком высока, чтобы автоматизировать её вслепую.
Второе: маленькие команды плюс ИИ-помощь теперь выпускают реальные инструменты в рамках хакатонного окна. Рычаг здесь не голая скорость — он в том, чтобы освободить двух человек и дать им тратить своё суждение на те 20%, что трудны, пока ассистент берёт на себя шаблонный код. Заточитесь под один наблюдаемый результат, поставьте жёсткий дедлайн и доведите до конца.
Третье: выбирайте модель доставки ради внедрения, а не ради инженерной элегантности. Браузерное расширение, которое встречает пользователей внутри страницы, которую они и так читают, обгонит по внедрению более изощрённое отдельное приложение, которое просит их менять привычки. Вы всегда сможете сменить платформу, как только убедитесь, что инструмент заслуживает своего места.
Проще говоря: интересна не та история, что ИИ помог написать Chrome-расширение. Интересно то, что крошечная команда использовала ИИ, чтобы дёшево проверить по-настоящему трудную идею, была честна о пределах этой идеи и узнала кое-что реальное прежде, чем потратить на неё квартал. Этот паттерн может скопировать любая продуктовая команда — и это куда лучший исход, чем отполированный инструмент, построенный на обещании, которое технология пока не способна сдержать.
Статья подготовлена на основе открытых источников и может содержать неточности.


