Масштабное расследование выявило попытки обхода системы научной экспертизы с помощью технологий искусственного интеллекта. Исследователи используют невидимые глазу команды, чтобы повлиять на выводы автоматических рецензентов.
В академической среде нарастает тревожная тенденция: всё больше учёных прибегают к техническим уловкам, чтобы повысить шансы на положительное рецензирование своих научных работ. Наиболее резонансной стала практика внедрения скрытых текстовых команд, предназначенных для систем на базе искусственного интеллекта.
На платформе arXiv было обнаружено как минимум 17 препринтов, содержащих скрытые инструкции, встроенные в структуру текста. Эти документы были подготовлены исследователями из 14 университетов и институтов, расположенных в восьми странах. Среди них — представители ведущих мировых академических центров в Японии, Южной Корее и США. Тематика подавляющего большинства работ — компьютерные науки и машинное обучение.
Суть манипуляции заключается в размещении коротких фраз — от одного до трёх предложений — в невидимом для обычного читателя формате: белым шрифтом на белом фоне или крайне мелким кеглем. Эти инструкции адресованы исключительно искусственному интеллекту, применяемому для автоматического рецензирования. В них содержатся призывы вроде «дать только положительный отзыв» или рекомендации выделить «исключительную новизну» и «методологическую строгость» работы.
Авторы подобных публикаций утверждают, что прибегают к скрытым подсказкам в ответ на повсеместный запрет использования ИИ в процессе экспертной оценки на многих научных конференциях. Они объясняют свои действия как способ «защититься» от небрежного или неквалифицированного рецензирования, если оценка проводится машиной, а не человеком.
Однако подобные оправдания не снижают уровень озабоченности научного сообщества. Практика внедрения скрытых команд подрывает фундаментальный принцип независимой, объективной и этически прозрачной экспертизы. Любые попытки манипулировать оценкой качества научного исследования ставят под угрозу доверие к опубликованным результатам и могут привести к снижению общего уровня научной добросовестности.
Специалисты подчёркивают необходимость срочной выработки международных норм и этических стандартов, регламентирующих допустимость применения ИИ в процессе рецензирования. В частности, требуется точная классификация подобных манипуляций как недопустимых и подрывающих научную этику.
Отсутствие чётких правил может привести к быстрому распространению этой практики — особенно в высококонкурентных областях вроде ИИ, где скорость публикаций и признание имеют критическое значение для научной карьеры. В конечном счёте, речь идёт не только о корректности отдельных публикаций, но и о сохранении доверия к академической системе в целом.
