Как программы определяют происхождение текста?
Начнем с основ. Чтобы обнаружить синтетический, то есть созданный машиной текст, нужно искать закономерности.
Дело в том, что когда человек пишет, он объединяет случайные мысли в осмысленные предложения. Люди не следуют шаблонам, и одни предложения могут быть слишком длинными, а другие — короткими.
И это полная противоположность того, как мыслит и пишет ИИ. Здесь не стоит ждать случайностей, и текст будет иметь четкую структуру. Некоторые идеи или слова будут повторяться, а выбор лексики может выглядеть механическим, напоминая речь робота.
Все это учитывают специализированные программы. Чтобы различать то, что написано человеком, и то, что создано нейросетью, используются четыре параметра.
Классификаторы
Это алгоритмы, которые определяют класс текста при помощи таких факторов, как использование, грамматика, стиль и тональность.
Например, текст с невыразительной тональностью, грамматическими ошибками и повторами с большей вероятностью будет отнесен к категории сгенерированных ИИ.
Встраивания
В этом контексте встраивания (embeddings) — это числовые представления слов и их взаимосвязей друг с другом. Они выражены в виде векторов в многомерном пространстве, каждый из которых имеет уникальный код.
Эти коды помогают компьютерам понять, как каждое слово соотносится друг с другом и в каком контексте употребляется. Базовая модель машинного обучения постоянно обучается определять, какие коды распространены в текстах от ИИ, а какие — нет.
Перплексия
Это характеристика текста, которая определяет степень запутанности внутри фрагмента. Люди пишут с очень большой степенью перплексии. Но не ИИ.
Попробуйте придумать, как завершить следующее предложение: «Вчера я смотрел «Оппенгеймер», и это… фильм». Если в голову приходит что-то вроде «захватывающий», «выдающийся», «замечательный», «впечатляющий» или «увлекательный», очень жаль, но, возможно, вы робот.
Скорее всего, человек выбрал бы что-то более разговорное или основанное на личном опыте. Что-то вроде «полное безумие» или «совсем не то, что я ожидал». В конце концов, у человека могут быть ожидания от фильма. А у искусственного интеллекта — нет.
Если это действительно так, то, вероятно, языковая модель в его основе галлюцинирует, то есть делает заявления, не подкрепленные фактами, или у нее нет ограничений, которые бы контролировали качество и выходные данные.
Спонтанность
Мы уже говорили о том, что люди пишут непредсказуемо. И некоторые предложения могут быть длинными, а некоторые — короткими. Спонтанность (burstiness) — еще одна характеристика текста, которая это определяет.
Детекторы ИИ используют комбинацию этих четырех концепций для обнаружения сгенерированного контента. Но насколько они точны? К сожалению, пока метод работает не на 100%. Он лишь сообщает вероятность.
Так, оценка в 70% означает, что программа на 70% уверена в том, что контент создан ИИ, и на 30% — в том, что его автором является человек.
Сама идея подразумевает возможность ошибки, поскольку ориентируется лишь на уровни уверенности и вероятности.
Почему программы для проверки ошибаются?
Существует много причин, по которым обнаружить созданный машиной контент все труднее.
- Генеративный ИИ их опережает: такие модели, как ChatGPT 4 (и даже бесплатная версия), действительно все лучше пишут тексты, похожие на человеческие. Они используют только правильные классификаторы, встраивания, перплексию и спонтанность. Они проанализировали безумное количество контента, созданного человеком, чтобы найти золотую середину между правильным использованием грамматики и выбором слов.
- Программа просто недостаточно хороша: как и программы-генераторы, детекторы ИИ должны обучаться на огромных объемах данных. В противном случае они не смогут точно классифицировать контент.
- Предвзятость часто проникает в обучающие данные: в результате ИИ систематически принимает неверные решения для конкретных случаев использования. И это серьезная проблема. Она существует потому, что все обучающие данные поступают от людей. У людей есть предубеждения, даже если они о них не подозревают.
- Новые стратегии генерации контента усугубляют ситуацию: писатели-профессионалы в области ИИ и блогеры постоянно разрабатывают новые стратегии, чтобы обмануть детекторы искусственного интеллекта. Например, они разработали специальные подсказки, позволяющие заставить ChatGPT записывать контент, который с большей вероятностью останется незамеченным. Теперь есть даже специальный плагин, который делает текст ChatGPT «человечнее».
Как на это повлиять?
- Повторяющиеся слова и фразы, особенно те, что ориентированы на возможные целевые ключевые слова. Структура текста может показаться слишком однородной. Например, «Я люблю кошек, потому что кошки милые. У кошек мягкий мех, и они приятно мурлыкают. Не могу представить свою жизнь без кошек».
- Очень общая тональность, отсутствие или минимум креативности. Например, «Добро пожаловать на наш веб-сайт. Мы предлагаем широкий спектр продуктов и услуг. Мы удовлетворяем потребности наших клиентов. Наша команда прикладывает все усилия, чтобы обеспечить наилучшее качество и удовлетворить запросы наших клиентов».
- Поверхностный текст без реальных инсайтов или практических знаний, основанных на реальном жизненном опыте. Например, «Вы всегда должны сохранять позитивный настрой и никогда не сдаваться. Позитивность приносит успех и счастье в жизни. Это хорошая привычка».
- Фактические ошибки и устаревшая информация. Известно, что генеративный ИИ время от времени испытывает галлюцинации и придумывает что-то без какой-либо реальной основы. Например, «Согласно недавнему исследованию, проведенному в 2002 году, Земля плоская, и солнце вращается вокруг нее».
- Логические нестыковки и ошибки, которые просто неловко читать. Например, «Джон обедал вечером, когда пришла утренняя почта».
- Текст в целом создает ощущение безжизненности.
Генеративный ИИ продолжается совершенствоваться, а вслед за ним — и программы для проверки. Никто не знает, кто в конечном итоге выиграет гонку. Возможно, пока лучшим способом будет полагаться на собственную внимательность.
Частые вопросы о проверке текста на авторство
Вопрос: Существует ли 100% точный способ определить, что текст написан ИИ?
Ответ: Нет, абсолютно точного метода не существует. Все инструменты и признаки дают лишь вероятностную оценку.
Вопрос: Может ли нейросеть создать текст, который не отличить от человеческого?
Ответ: Да, особенно если человек отредактирует сырой вывод модели или задаст очень детальный и творческий промпт.
Вопрос: Какие онлайн-сервисы для проверки текста на ИИ самые популярные?
Ответ: GPTZero, Originality.ai, Copyleaks, Writer AI Content Detector, ZeroGPT.
Вопрос: Что такое «перплексия» в контексте проверки текста?
Ответ: Это метрика, показывающая, насколько текст «предсказуем» для языковой модели. Низкая перплексия может указывать на ИИ-происхождение.
Вопрос: Почему человеческий текст иногда помечают как написанный нейросетью?
Ответ: Из-за сухого, формального стиля, простых синтаксических конструкций или использования слов и фраз, характерных для тренировочных данных ИИ.
Вопрос: Можно ли обмануть детектор ИИ-текста?
Ответ: Да, с помощью глубокого рерайта, добавления личных деталей, эмоций, намеренных ошибок или изменения стиля.
Вопрос: На какие стилистические признаки в первую очередь смотрят при ручной проверке?
Ответ: На отсутствие глубоких личных размышлений, шаблонность фраз, излишнюю обобщенность, «водянистость» и неестественную гладкость.
Вопрос: Всегда ли высокая «уникальность» текста означает, что его написал человек?
Ответ: Нет. Современные нейросети генерируют уникальный текст, который не находится прямым копированием в интернете.
Вопрос: Влияет ли тематика текста на точность проверки?
Ответ: Да. Технические, научные или официальные тексты сложнее проверить, так как у них более жесткие стилистические рамки.
Вопрос: Является ли использование ИИ для написания текста нарушением?
Ответ: Это зависит от контекста и установленных правил (вуз, издательство, платформа). Часто нарушением считается лишь выдача ИИ-текста за полностью человеческий без указания авторства.
Краткая памятка: как выявить текст, созданный нейросетью
- Проанализируйте текст на излишнюю обобщенность и отсутствие конкретных, нишевых деталей.
- Обратите внимание на шаблонные вводные фразы вроде «в современном мире», «важно отметить», «в заключение».
- Проверьте, нет ли в тексте логических «петель» или повторений одной мысли разными словами.
- Ищите нехарактерные для живого человека формулировки — излишне правильные и безэмоциональные.
- Оцените структуру: зачастую ИИ-тексты идеально структурированы, но лишены плавных переходов.
- Используйте несколько разных онлайн-детекторов (GPTZero, Originality.ai) и сравните их результаты.
- Проверьте текст на наличие фактических ошибок или устаревших данных (нейросети могут их генерировать).
- Обратите внимание на отсутствие личного опыта, субъективных оценок и живых примеров из практики.
- Прочитайте текст вслух — неестественные речевые обороты часто становятся заметнее.
- Проанализирурите лексическое разнообразие: обилие синонимов при бедности смысла — тревожный сигнал.
- Задайте себе вопрос: дает ли текст действительно новое знание или просто компилирует очевидные факты?
- Проверьте, как текст отвечает на сложные, противоречивые вопросы — часто ИИ старается занять нейтральную, «размытую» позицию.
