IT

Скрытые подсказки ИИ: как учёные манипулируют рецензированием научных статей

Масштабное расследование выявило попытки обхода системы научной экспертизы с помощью технологий искусственного интеллекта. Исследователи используют невидимые глазу команды, чтобы повлиять на выводы автоматических рецензентов.

В академической среде нарастает тревожная тенденция: всё больше учёных прибегают к техническим уловкам, чтобы повысить шансы на положительное рецензирование своих научных работ. Наиболее резонансной стала практика внедрения скрытых текстовых команд, предназначенных для систем на базе искусственного интеллекта.

На платформе arXiv было обнаружено как минимум 17 препринтов, содержащих скрытые инструкции, встроенные в структуру текста. Эти документы были подготовлены исследователями из 14 университетов и институтов, расположенных в восьми странах. Среди них — представители ведущих мировых академических центров в Японии, Южной Корее и США. Тематика подавляющего большинства работ — компьютерные науки и машинное обучение.

Суть манипуляции заключается в размещении коротких фраз — от одного до трёх предложений — в невидимом для обычного читателя формате: белым шрифтом на белом фоне или крайне мелким кеглем. Эти инструкции адресованы исключительно искусственному интеллекту, применяемому для автоматического рецензирования. В них содержатся призывы вроде «дать только положительный отзыв» или рекомендации выделить «исключительную новизну» и «методологическую строгость» работы.

Авторы подобных публикаций утверждают, что прибегают к скрытым подсказкам в ответ на повсеместный запрет использования ИИ в процессе экспертной оценки на многих научных конференциях. Они объясняют свои действия как способ «защититься» от небрежного или неквалифицированного рецензирования, если оценка проводится машиной, а не человеком.

Однако подобные оправдания не снижают уровень озабоченности научного сообщества. Практика внедрения скрытых команд подрывает фундаментальный принцип независимой, объективной и этически прозрачной экспертизы. Любые попытки манипулировать оценкой качества научного исследования ставят под угрозу доверие к опубликованным результатам и могут привести к снижению общего уровня научной добросовестности.

Специалисты подчёркивают необходимость срочной выработки международных норм и этических стандартов, регламентирующих допустимость применения ИИ в процессе рецензирования. В частности, требуется точная классификация подобных манипуляций как недопустимых и подрывающих научную этику.

Отсутствие чётких правил может привести к быстрому распространению этой практики — особенно в высококонкурентных областях вроде ИИ, где скорость публикаций и признание имеют критическое значение для научной карьеры. В конечном счёте, речь идёт не только о корректности отдельных публикаций, но и о сохранении доверия к академической системе в целом.

Maili News

Maili.uz - новостной портал Узбекистана.

Recent Posts

Узбекистан усиливает позиции на инновационной карте Евразии: в Ташкенте прошёл международный саммит INMerge Uzbekistan

В Ташкенте состоялся первый инновационный саммит INMerge Uzbekistan — ключевое событие для технологического и инвестиционного сообщества региона. Саммит стал площадкой…

2 дня ago

Франция представила Citroën C5 Aircross 2025 с интеграцией ИИ и акцентом на комфорт

На европейский рынок выходит обновлённый Citroën C5 Aircross 2025 года — кроссовер, в котором сочетаются современные технологии, продуманная эргономика и…

2 дня ago

Узбекистан вводит новые правила страховых компенсаций: акцент на справедливость и прозрачность

Постановлением Кабинета Министров от 15 июля 2025 года № 443 утверждены изменения в порядке обязательного страхования гражданской ответственности работодателя. Документ…

2 дня ago

Узбекистан усиливает цифровую грамотность госслужащих: искусственный интеллект в фокусе подготовки

В Узбекистане продолжается реализация Стратегии развития технологий искусственного интеллекта, утверждённой Постановлением Президента от 14 октября 2024 года. Одним из практических…

2 дня ago

США переосмысляют будущее ИИ: глава Nvidia делает ставку на физические науки и робототехнику

Генеральный директор Nvidia Дженсен Хуанг, один из ключевых архитекторов современного искусственного интеллекта, заявил, что если бы начинал карьеру сегодня, сосредоточился…

2 дня ago

Узбекистан зависит от денежных переводов из России: более 6 миллиардов долларов за полугодие

По данным Центрального банка Узбекистана, за первые шесть месяцев 2025 года объём денежных переводов из Российской Федерации составил 6,4 миллиарда…

2 дня ago