Как понять, что текст написан нейросетью (и почему детекторы врут)

Признаки сгенерированного текста, почему детекторы ИИ ошибаются и как проверять работы, статьи и документы без ложных обвинений.

Вопрос «это написал человек или нейросеть» стал бытовым: преподаватели проверяют эссе, редакторы — статьи, заказчики — подрядчиков. Рынок ответил детекторами, и почти все они работают хуже, чем обещают.

Разберём, что действительно можно определить, а что — нет.

Почему детекторы ненадёжны

Детектор не «находит нейросеть». Он оценивает статистику текста: предсказуемость слов, длину предложений, разнообразие конструкций. Если текст выглядит слишком гладким — высокий балл «ИИ».

Отсюда три проблемы:

Ложные срабатывания. Сухой академический текст, юридический документ, текст неносителя языка — всё это похоже на машинное.
Обход за минуту. Достаточно попросить модель «пиши проще, с ошибками, короче» — и балл падает.
Разные ответы. Один и тот же текст в разных сервисах получает от 10% до 90% «ИИ».

Даже разработчики признавали низкую точность: некоторые компании закрывали собственные детекторы именно из-за этого. Если инструмент обещает «99% точности» — это маркетинг, а не измерение.

Важно

Не используйте результат детектора как единственное доказательство. Обвинение в «сгенерированном тексте» на основании одного балла — это ошибка, за которую придётся извиняться.

Признаки, которые видит человек

Они не доказывают авторство, но помогают заподозрить шаблон.

Идеальная симметрия. Все абзацы одинаковой длины, все пункты списка построены по одной модели.

Общие слова вместо конкретики. «В современном мире», «играет важную роль», «широкий спектр возможностей». У человека обычно есть детали: даты, имена, цифры, личный опыт.

Отсутствие ошибок и сомнений. Живой текст содержит оговорки, уточнения, иногда шероховатости.

Странные факты. Уверенные утверждения без источника, которых нет в открытых данных.

Повторяющиеся конструкции. Одинаковые начала абзацев, любовь к троичным перечислениям.

Гладкий финал. Абзац-вывод, который ничего не добавляет: «Таким образом, нейросети открывают новые возможности».

Что действительно стоит проверять

Вместо охоты за «ИИ-текстом» проверяйте то, что влияет на результат:

Факты

Каждая цифра, дата и цитата — из источника. Нейросети уверенно выдумывают статистику и ссылки. Если факт нельзя проверить за пару минут, его нельзя публиковать.

Плагиат

Обычный поиск по уникальным фразам работает надёжнее любого детектора. Скопируйте подозрительное предложение в поиск — если оно находится дословно, вопрос авторства решён.

Логику

Сгенерированный текст часто противоречит сам себе на расстоянии двух абзацев: сначала «метод дешёвый», потом «требует больших затрат». Читайте как редактор, а не как детектор.

Польза

Для сайта, статьи или учебной работы важнее не способ производства, а ценность: есть ли уникальные данные, примеры, выводы.

Если вы преподаватель

Оценивайте работу по критериям, а не по «проценту ИИ».
Просите защитить результат: устный вопрос по тексту показывает понимание лучше детектора.
Меняйте задания на те, где нужен личный опыт, локальные данные, наблюдения.
Объявляйте правила заранее: где ИИ разрешён как помощник, а где запрещён.
При сомнении говорите о конкретных проблемах текста, а не об обвинении.

Если вы заказчик

Формулируйте требования к содержанию, а не к «ручному письму».
Проверяйте факты и ссылки — это дешевле, чем переписывать.
Для важных текстов договаривайтесь об источниках и правках.
Не платите за «уникальность 100%» — это не имеет отношения к качеству.

Если вы автор

Нейросеть — нормальный инструмент, если вы отвечаете за результат. Три правила:

Проверяйте каждый факт. Модель не несёт ответственности, вы несёте.
Добавляйте своё. Примеры, наблюдения, данные, которых нет в обучающем наборе.
Не скрывайте там, где это важно. В учебной работе, научной статье, журналистике правила маркировки задаёт площадка. Их нужно соблюдать.

Нужно ли маркировать текст

В большинстве случаев закон не требует пометки «сгенерировано ИИ». Но есть исключения: научные публикации, конкурсы, площадки с собственными правилами. Если сомневаетесь — смотрите правила конкретной площадки, а не общие советы.

Для сайта важнее другое: поисковые системы оценивают пользу и уникальность, а не факт использования ИИ. Текст, сгенерированный и не проверенный, просто бесполезен — и это видно по поведению читателей.

Итог

Детекторы ИИ дают вероятностную оценку и часто ошибаются. Надёжнее проверять факты, источники и логику — то есть делать редакторскую работу, которую нейросеть за вас не сделает.

Если вам нужен текст, который не стыдно опубликовать, начните с конструктора промптов и закончите проверкой каждого утверждения.