ИИ оказался автором десятков статей в зарубежных научных журналах

О последствиях инцидента сообщило издание Times Higher Education.

Где и почему появились фейковые статьи

В конце прошлого года некоторые исследователи из ведущих университетов Европы, США, Канады и Австралии обнаружили, что под их именами опубликованы странные статьи в научных журналах. Это были короткие тексты, которые не только не имели никакой научной ценности, но и были плохо написаны — словно бы сгенерированы автоматически.

Выяснилось, что все тексты вышли в журналах издательства Prime Scholars. И статьями дело не ограничилось — некоторые исследователи нашли свои имена в списках редколлегий изданий, о существовании которых они даже не знали.

Так стало понятно, что дело не в бессмысленном хулиганстве, а в мошеннической схеме. Журналы Prime Scholars используют модель открытого доступа, при которой все тексты в издании доступны читателям бесплатно, а существует оно за счёт публикационных взносов авторов. То есть журнал буквально зарабатывает на авторах, а точнее на университетах и других организациях, финансирующих их исследования и публикации. И поскольку во многих странах учёные испытывают публикационное давление — от них требуют выпускать как можно больше статей, причём в журналах с индексацией в международных базах данных, — поток авторов не иссякает.

Подобную модель открытого доступа используют и многие вполне качественные издания, но она открывает большой простор для злоупотребления. Недобросовестные журналы (чаще их называют попросту мусорными) публикуют под видом научных статей буквально всё, что им присылают. А чтобы присланных статей и, соответственно, публикационных взносов было больше, журналу не помешает придать респектабельности. Например, добавить известных и уважаемых учёных в списки авторов и редакторов.

Почему проблема подложных публикаций может стать ещё серьёзнее

Исследователи, которые неожиданно обнаружили собственные имена в журналах Prime Scholars, расценили ситуацию именно как мошенничество и кражу личности и планируют судиться с издательством.

С одной стороны, многим просто неприятно, что коллеги из других стран могут решить, будто бы имя известного исследователя в редколлегии журнала гарантирует его качество, и потратить на публикацию там деньги. Причём, скорее всего, это будут исследователи из развивающихся стран, где науку и так финансируют не слишком щедро, — в журналах Prime Scholars много, например, индийских авторов.

С другой стороны, учёные, чьи имена использовали, беспокоятся и о своей репутации. Пока подставные статьи написаны достаточно топорно, чтобы их коллегам и руководителям была очевидна фальсификация. К тому же параллельно с реальными учёными в авторы записывали классиков европейской и американской литературы, например, Шарлотту Бронте и Уильяма Фолкнера (видимо, просто чтобы набрать нужное количество статей в выпуск). Словом, пока что понять, что с журналом что-то не то, можно довольно быстро.

Но нейросети генерируют всё более правдоподобные тексты. И если использовать как основу реальный препринт (то есть выложенную на специальном сервисе авторскую версию текста, не прошедшую рецензирование и редактуру), результат может получиться пугающе похожим на настоящую статью. Что будет дальше — фальшивые статьи начнут всерьёз читать и цитировать? Или самих учёных обвинят в том, что они накручивают себе публикационные показатели за счёт платных — быстрых и некачественных — статей?

Похоже, вырисовывается ещё одна проблема использования ИИ в науке и высшем образовании, которую предстоит обдумать. Напомним, по поводу студенческих работ, написанных с применением нейросетей, решений пока нет — только мысли о том, что надо бы изменить подход к заданиям.