К чему могут привести манипуляции ученых

ForbesНаука

От фактов к фейкам: как ложь и манипуляции угрожают научным исследованиям

Опубликованные даже в научных журналах исследования в последние годы перестают быть надежной опорой для врачей, журналистов и адептов доказательной медицины. И на то есть объективные причины. Forbes Life разобрался, почему доверять таким работам с каждым днем все сложнее и к чему могут привести манипуляции ученых

Наталья Иншакова

Фото Getty Images

«Миллиарды долларов выбросили в этот мусоровоз, но зато таким образом была построена не одна академическая карьера, кое-кто очень обогатился», — написал Дэвид Шолто, молодой биолог из Уэльса, в разгромной статье на своем личном сайте For Better Science в январе 2024 года. Он явно не предполагал, к каким последствиям это приведет. Пару лет назад Шолто уволился с работы и полностью отдался своему хобби — охоте на ведьм в научном мире. Он проводил целые дни, кропотливо отыскивая ошибки в исследованиях, а затем писал в журналы с просьбой отозвать недобросовестные публикации. Большинство писем Дэвида просто игнорировали.

Но в случае с блогом For Better Science все вышло иначе. Дэвид замахнулся буквально на святое — уличил в искажении данных группу ведущих исследователей гарвардского Института рака Dana Farber, одного из главных онкоцентров в мире. И это произвело эффект разорвавшейся бомбы. Представители Dana Farber отозвали шесть работ и внесли значительные правки еще в 31. Многие из них были опубликованы 15 и более лет назад и считались программными в изучении рака. По совпадению, в тот же день, когда Шолто опубликовал свое разоблачение, об отставке объявила директор Гарварда Клодин Гэй. В 40 ее статьях был найден грубый плагиат.

Все эти случаи не первые и не единичные. За 2023 год было отозвано 10 000 научных исследований — это самый высокий показатель в истории. Список областей, в которых чаще всего встречаются недобросовестные работы, возглавляют онкология и кардиология. А топ стран, где распространены фейковые исследования: Китай, Пакистан, Индия, Австралия, Россия и США. В 2021 году был завершен восьмилетний масштабный проект по проверке исследований в области рака. Выяснилось, что при попытке воспроизвести их результаты, это удается только в 50% случаев, — и они далеко не всегда оказываются такими впечатляющими, как было заявлено.

«И что мы будем делать? Сидеть и ждать, пока последствия будут фатальными? Или разберемся в причинах?» — задает вопрос Дэвид Шолто в своей статье. Вопрос кажется справедливым: попробуем разобраться в причинах.

Искусственный интеллект

Несколько месяцев назад одна из ведущих мировых научных организаций — Лондонское Королевское общество — провела эксперимент. Аспирантов разных специальностей попросили протестировать новую безымянную нейросеть и попробовать сломать ее «ограду» — так неформально называют защитный механизм, не позволяющий ИИ давать опасные советы и искажать факты. Многим участникам это удалось. Они заставили нейросеть виртуозно доказать, что утки — надежный индикатор чистоты воздуха, а лавандовым маслом можно лечить постковидные симптомы. Но успешнее всего были те, кто предложил ИИ написать несуществующие научные исследования в несуществующие журналы. Результаты были неотличимы от настоящих работ.

То, что наука прибегает к помощи ИИ, не новость. По данным масштабного опроса 2023 года, результаты которого были опубликованы в журнале Nature, 58% ученых считают, что ИИ помогает быстрее производить вычисления и экономит время исследователей. Еще 28% используют нейросети для работы несколько раз в неделю. Действительно, ИИ способен обрабатывать большие массивы данных, писать выводы из многостраничных работ. Но не только.

«Искусственный интеллект может очень быстро сгенерировать базу данных под любой заданный результат. То есть предложить данные, из которых этот несуществующий результат мог быть выведен, — объясняет Анча Баранова, биолог, профессор школы системной биологии в Университете Джорджа Мейсона, США. — Там будут имена, фамилии, возраст, распределение по биомаркерам». Такой эксперимент уже ставили, и нейросеть успешно справилась с задачей. Единственным искажением были не сами данные, а то, что ИИ представил больше гендерно-нейтральных имен, чем обычно встречается в популяции, потому что в нейросети заложен вокизм (от английского woke, wokeism — принцип социальной, расовой и половой справедливости.Forbes Life). Баранова добавляет, что невозможно проверить, были в эксперименте реальные волонтеры или плод воображения ChatGPT: «Все крупные регуляторы защищают личные данные участников исследований. Вы не можете найти их контакты, позвонить и спросить, правда ли, что 27 января вам сделали укол в 7 часов вечера?»

Четыре года назад Gowing life, группа энтузиастов из Оксфорда и Лондонского университетского колледжа, провела похожий эксперимент, используя механизмы машинного обучения. В результате были сгенерированы совершенно неотличимые от настоящих исследования, доказывающие, например, что кофеин способствует росту мышц, а препарат от биполярного расстройства лечит рак простаты. Проблема в том, что ИИ может генерировать не только текст, но и изображения, используемые в научных работах: например, макрофотографии клеток. И отличить их от настоящих практически невозможно.

Впрочем, иногда определить фейк очень просто. В 2022 году Гильйом Кабанач, ученый-информатик из Тулузского университета, обнародовал несколько десятков научных работ, где встречалась фраза regenerate response («повторить запрос») — классическая команда для СhatGPT. Авторы просто забыли удалить ее из своих псевдотрудов.

Бумажные заводы

Paper mills («бумажные заводы») — принятое в научной среде название для сомнительных бизнесов, которые торгуют готовыми работами и авторством, обещая ученым публикации в солидных журналах. В большом исследовании «бумажных заводов» STM (независимая международная организация мониторинга качества научных исследований. — Forbes Life ) приводит письмо авторства одной такой компании. «Крупный поставщик академических работ предлагает готовые статьи на широкий круг тем, от экономики до инженерии. Каждая статья была написана, отредактирована, проверена и переведена командой экспертов, мы также достигли договоренностей о публикации с разными изданиями. Все, что требуется от вас, — это выбрать нужную тему и объем участия. Вы можете приобрести полное авторство или стать одним из контрибьюторов. Мы гарантируем, что статья будет напечатана и проиндексирована». Эта компания базируется в Латвии и за 12 лет существования помогла опубликовать уже 12 560 работ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Расовая теория: из огня да в полымя Расовая теория: из огня да в полымя

Почему теория Дарвина так вдохновила сторонников неравенства рас?

Знание – сила
У единственной безлегочной лягушки все же нашлись легкие У единственной безлегочной лягушки все же нашлись легкие

У единственной безлегочной лягушки обнаружили структуры, напоминающие легкие

N+1
Семейное дело: как дети режиссеров идут по стопам родителей и строят карьеру в кино Семейное дело: как дети режиссеров идут по стопам родителей и строят карьеру в кино

Профессию в киноиндустрии «наследуют» не только актеры, но и режиссеры

Forbes
WD-40: история компании, которая создала универсальное средство WD-40: история компании, которая создала универсальное средство

Где и как была разработана формула «всемогущей» жидкости

ТехИнсайдер
Как вам продают саморазвитие (и очень дорого!) — объясняет психолог Татьяна Мужицкая Как вам продают саморазвитие (и очень дорого!) — объясняет психолог Татьяна Мужицкая

Насколько стремление блогеров и коучей помочь людям искренне и бесскорыстно?

Psychologies
А ведьмы кто: краткая история инквизиции между мифом и реальностью А ведьмы кто: краткая история инквизиции между мифом и реальностью

Что из историй об инквизиторах имеет под собой реальные основания, а что выдумка

Правила жизни
Как дети и внуки давших «Клятву дарения» миллиардеров участвуют в благотворительности Как дети и внуки давших «Клятву дарения» миллиардеров участвуют в благотворительности

Кампания «Клятва дарения» приближается к критическому рубежу

Forbes
Город в поисках культурной идентичности Город в поисках культурной идентичности

Улан-Удэ: русская провинциальная архитектура и монгольская героика

Weekend
10 вещей, которые сделаны из нефти. Вы удивитесь! 10 вещей, которые сделаны из нефти. Вы удивитесь!

От шоколада до зубной пасты — многие товары для дома производятся из нефти

ТехИнсайдер
Наполеон ненастоящий Наполеон ненастоящий

Новый «Наполеон»: богато снятая сказка, имеющая мало общего с реальностью

Дилетант
Первый советский хакер остановил конвейер ВАЗа… и раскрыл заговор айтишников. Вот как это было Первый советский хакер остановил конвейер ВАЗа… и раскрыл заговор айтишников. Вот как это было

Амбициозный программист сначала стал преступником, затем национальным героем

ТехИнсайдер
Эксперимент Таскиги: одна из самых жестоких медицинских программ в истории человечества Эксперимент Таскиги: одна из самых жестоких медицинских программ в истории человечества

Проект Таскиги стал одним из самых жестоких случаев медицинского расизма

ТехИнсайдер
Путь таракана: как печально известный паразит завоевал мир Путь таракана: как печально известный паразит завоевал мир

Откуда таракан распространился по всему миру?

ТехИнсайдер
10 цитат Алеси Кафельниковой о важности психотерапии и умении принимать себя 10 цитат Алеси Кафельниковой о важности психотерапии и умении принимать себя

Цитаты Алеси Кафельниковой — символа российского гламура нового поколения

Psychologies
9 фраз, которые сделают вас счастливее. Используйте их в разговорах ежедневно! 9 фраз, которые сделают вас счастливее. Используйте их в разговорах ежедневно!

Какие наши слова помогают другим людям понять, что их видят, слышат и любят

Psychologies
6 российских сериалов о психологических манипуляциях и абьюзе 6 российских сериалов о психологических манипуляциях и абьюзе

О шести российских сериалах, которые освещают разные проявления абьюза

Psychologies
2 признака того, что вы встречаетесь с грандиозным нарциссом 2 признака того, что вы встречаетесь с грандиозным нарциссом

Как нарцисс ведет себя в отношениях?

Psychologies
Лизнуть яйцо за миллион: почему жители Урала готовы рискнуть здоровьем ради денег Лизнуть яйцо за миллион: почему жители Урала готовы рискнуть здоровьем ради денег

Почему люди считают деньги приоритетнее своего здоровья?

Psychologies
Жизнь после: 6 фильмов о преодолении психологических травм Жизнь после: 6 фильмов о преодолении психологических травм

Фильмы о людях, которые смогли примириться со своими психологическими травмами

Psychologies
В 2023 году менее половины российских семей потратили маткапитал на жилье В 2023 году менее половины российских семей потратили маткапитал на жилье

В 2023 году на приобретение жилья средства маткапитала потратили только 45,6%

Forbes
«Писать грустные песни — само по себе было протестом» «Писать грустные песни — само по себе было протестом»

Как Булат Окуджава сделал голос частного человека общественным явлением

Weekend
Пять возможных шагов к экономике предложения Пять возможных шагов к экономике предложения

Правительство собирается перевести народное хозяйство на экономику предложения

Монокль
Любовный треугольник: можно ли любить одновременно двоих? Любовный треугольник: можно ли любить одновременно двоих?

Что такое любовь? Почему люди заводят романы на стороне?

Psychologies
Сумасшедшие бактерии меняют главную догму биологии: они сами себе создают новые гены Сумасшедшие бактерии меняют главную догму биологии: они сами себе создают новые гены

Как показали ученые, бактерии могут создавать сами себе новые гены

ТехИнсайдер
Что такое Ватсу: обзор популярной телесно-ориентированной практики Что такое Ватсу: обзор популярной телесно-ориентированной практики

Практика Ватсу: как она проходит и влияет на состояние человека

Psychologies
«Наша задача — не кости с места на место перенести, а достойно похоронить в братской могиле». Как в Московской области ищут останки пропавших без вести солдат «Наша задача — не кости с места на место перенести, а достойно похоронить в братской могиле». Как в Московской области ищут останки пропавших без вести солдат

Как поиск солдат из мальчишеского увлечения превратился в серьезную миссию

СНОБ
Почему мы боимся успеха и как справиться с этим страхом: советы психолога Почему мы боимся успеха и как справиться с этим страхом: советы психолога

Почему нам так страшно сделать решающий шаг к успеху?

Psychologies
Большинство людей не знают, что у них есть апноэ: что это такое? Большинство людей не знают, что у них есть апноэ: что это такое?

Как узнать, действительно ли ваш храп вредит вашему здоровью?

ТехИнсайдер
Литературные персонажи, которые бесят всех до чертиков Литературные персонажи, которые бесят всех до чертиков

11 примеров, когда герой книги раздражает настолько, что хочется бросить чтение

Maxim
Собак из скандинавского погребения в лодке приписали к элитной породе Собак из скандинавского погребения в лодке приписали к элитной породе

Ученые исследовали останки пяти собак, которых нашли на шведском острове Эланд

N+1
Открыть в приложении