Ситуация с проверкой текстов осложняется тем, что популярные детекторы ИИ опираются на показатель «перпликсити» (perplexity), оценивающий непредсказуемость выбора слов. Текст нейросети статистически более предсказуем, поэтому правильная, строго выверенная речь человека часто ошибочно признается машинной.
Можно ли сегодня доказать, что текст создан ИИ
Современные университеты, журналы и издательства все чаще используют специальные детекторы, чтобы выявлять тексты, сгенерированные искусственным интеллектом. Но эта технология несовершенна и регулярно дает сбои. Программы анализа часто маркируют работы живых людей как машинное творчество, особенно если авторы пишут строго по правилам или используют простой английский язык. Борьба с обманом превращается в бесконечную гонку вооружений.
Некоторые инструменты для выявления использования искусственного интеллекта, применяемые при анализе работ студентов, были признаны ненадежными. Getty
Детекторы ИИ сегодня настолько несовершенны, что часто признают исторические документы продуктом нейросетей. Пользователи интернета обнаружили, что популярные детекторы регулярно маркируют Декларацию независимости США 1776 года как текст, написанный машиной. Эксперименты журнала Nature подтвердили эту аномалию: сервис ZeroGPT при проверках Декларации независимости выдавал вероятность генерации ИИ от 95% до 100%.
Характерные признаки ИИ. Иллюстрация, на которой представлен отрывок текста, написанного человеком, и тот же текст, переписанный большой языковой моделью (LLM). Инструмент анализа текста проанализировал оба варианта и выделил фрагменты текста, которые, вероятно, были написаны человеком или LLM, при этом результаты оказались относительно точными. Слова и словосочетания выделены разными цветами, чтобы показать, насколько сильно инструмент анализа текста связывает их с авторством человека или LLM. M. Suvanto et al. Preprint at arXiv https://doi.org/rdhv (2026)
Исследования показывают, что популярные утилиты могут давать до 16% ложноположительных результатов на англоязычных эссе, а для авторов, не являющихся носителями языка, этот показатель подскакивает до 61%. Нейросети развиваются стремительно, тексты новых моделей становятся все более «человечными», а использование программ-«гуманизаторов» окончательно запутывает алгоритмы проверки. В итоге эксперты сходятся во мнении, что автоматические оценки нельзя использовать как неопровержимое доказательство вины.
Продолжение ниже
Видео
Продолжение
Кризис доверия и новые подходы
Детектор ИИ.
Ученые подчеркивают, что детекторы ИИ принципиально отличаются от привычных систем антиплагиата. Программы поиска плагиата показывают конкретный первоисточник заимствования, тогда как детекторы генеративного текста не могут предоставить наглядных доказательств.
Ситуация усугубляется и тем, что человеческий и машинный тексты не являются взаимоисключающими понятиями: ИИ учился на миллиардах человеческих слов, и любое его предложение гипотетически мог написать человек. Специалисты призывают университеты отказаться от слепого доверия технологиям распознавания и перестроить саму систему оценки знаний, обращая внимание на прозрачность процесса написания, а не только на финальный результат. Правда, это снижает процент удаленных тестов и домашних эссе, поскольку работа переносится в аудиторию.
Марзена Карпинска, лингвист и компьютерный специалист из Университета Саймона Фрейзера, исследовавшая масштабы применения ИИ, предупреждает об опасности поспешных выводов на основе работы алгоритмов: «Мы совершенно точно не можем массово отвергать людей из-за того, что детектор ИИ почему назвал их текст генерацией».
Загружаем