К чему могут привести манипуляции ученых

ForbesНаука

От фактов к фейкам: как ложь и манипуляции угрожают научным исследованиям

Опубликованные даже в научных журналах исследования в последние годы перестают быть надежной опорой для врачей, журналистов и адептов доказательной медицины. И на то есть объективные причины. Forbes Life разобрался, почему доверять таким работам с каждым днем все сложнее и к чему могут привести манипуляции ученых

Наталья Иншакова

Фото Getty Images

«Миллиарды долларов выбросили в этот мусоровоз, но зато таким образом была построена не одна академическая карьера, кое-кто очень обогатился», — написал Дэвид Шолто, молодой биолог из Уэльса, в разгромной статье на своем личном сайте For Better Science в январе 2024 года. Он явно не предполагал, к каким последствиям это приведет. Пару лет назад Шолто уволился с работы и полностью отдался своему хобби — охоте на ведьм в научном мире. Он проводил целые дни, кропотливо отыскивая ошибки в исследованиях, а затем писал в журналы с просьбой отозвать недобросовестные публикации. Большинство писем Дэвида просто игнорировали.

Но в случае с блогом For Better Science все вышло иначе. Дэвид замахнулся буквально на святое — уличил в искажении данных группу ведущих исследователей гарвардского Института рака Dana Farber, одного из главных онкоцентров в мире. И это произвело эффект разорвавшейся бомбы. Представители Dana Farber отозвали шесть работ и внесли значительные правки еще в 31. Многие из них были опубликованы 15 и более лет назад и считались программными в изучении рака. По совпадению, в тот же день, когда Шолто опубликовал свое разоблачение, об отставке объявила директор Гарварда Клодин Гэй. В 40 ее статьях был найден грубый плагиат.

Все эти случаи не первые и не единичные. За 2023 год было отозвано 10 000 научных исследований — это самый высокий показатель в истории. Список областей, в которых чаще всего встречаются недобросовестные работы, возглавляют онкология и кардиология. А топ стран, где распространены фейковые исследования: Китай, Пакистан, Индия, Австралия, Россия и США. В 2021 году был завершен восьмилетний масштабный проект по проверке исследований в области рака. Выяснилось, что при попытке воспроизвести их результаты, это удается только в 50% случаев, — и они далеко не всегда оказываются такими впечатляющими, как было заявлено.

«И что мы будем делать? Сидеть и ждать, пока последствия будут фатальными? Или разберемся в причинах?» — задает вопрос Дэвид Шолто в своей статье. Вопрос кажется справедливым: попробуем разобраться в причинах.

Искусственный интеллект

Несколько месяцев назад одна из ведущих мировых научных организаций — Лондонское Королевское общество — провела эксперимент. Аспирантов разных специальностей попросили протестировать новую безымянную нейросеть и попробовать сломать ее «ограду» — так неформально называют защитный механизм, не позволяющий ИИ давать опасные советы и искажать факты. Многим участникам это удалось. Они заставили нейросеть виртуозно доказать, что утки — надежный индикатор чистоты воздуха, а лавандовым маслом можно лечить постковидные симптомы. Но успешнее всего были те, кто предложил ИИ написать несуществующие научные исследования в несуществующие журналы. Результаты были неотличимы от настоящих работ.

То, что наука прибегает к помощи ИИ, не новость. По данным масштабного опроса 2023 года, результаты которого были опубликованы в журнале Nature, 58% ученых считают, что ИИ помогает быстрее производить вычисления и экономит время исследователей. Еще 28% используют нейросети для работы несколько раз в неделю. Действительно, ИИ способен обрабатывать большие массивы данных, писать выводы из многостраничных работ. Но не только.

«Искусственный интеллект может очень быстро сгенерировать базу данных под любой заданный результат. То есть предложить данные, из которых этот несуществующий результат мог быть выведен, — объясняет Анча Баранова, биолог, профессор школы системной биологии в Университете Джорджа Мейсона, США. — Там будут имена, фамилии, возраст, распределение по биомаркерам». Такой эксперимент уже ставили, и нейросеть успешно справилась с задачей. Единственным искажением были не сами данные, а то, что ИИ представил больше гендерно-нейтральных имен, чем обычно встречается в популяции, потому что в нейросети заложен вокизм (от английского woke, wokeism — принцип социальной, расовой и половой справедливости.Forbes Life). Баранова добавляет, что невозможно проверить, были в эксперименте реальные волонтеры или плод воображения ChatGPT: «Все крупные регуляторы защищают личные данные участников исследований. Вы не можете найти их контакты, позвонить и спросить, правда ли, что 27 января вам сделали укол в 7 часов вечера?»

Четыре года назад Gowing life, группа энтузиастов из Оксфорда и Лондонского университетского колледжа, провела похожий эксперимент, используя механизмы машинного обучения. В результате были сгенерированы совершенно неотличимые от настоящих исследования, доказывающие, например, что кофеин способствует росту мышц, а препарат от биполярного расстройства лечит рак простаты. Проблема в том, что ИИ может генерировать не только текст, но и изображения, используемые в научных работах: например, макрофотографии клеток. И отличить их от настоящих практически невозможно.

Впрочем, иногда определить фейк очень просто. В 2022 году Гильйом Кабанач, ученый-информатик из Тулузского университета, обнародовал несколько десятков научных работ, где встречалась фраза regenerate response («повторить запрос») — классическая команда для СhatGPT. Авторы просто забыли удалить ее из своих псевдотрудов.

Бумажные заводы

Paper mills («бумажные заводы») — принятое в научной среде название для сомнительных бизнесов, которые торгуют готовыми работами и авторством, обещая ученым публикации в солидных журналах. В большом исследовании «бумажных заводов» STM (независимая международная организация мониторинга качества научных исследований. — Forbes Life ) приводит письмо авторства одной такой компании. «Крупный поставщик академических работ предлагает готовые статьи на широкий круг тем, от экономики до инженерии. Каждая статья была написана, отредактирована, проверена и переведена командой экспертов, мы также достигли договоренностей о публикации с разными изданиями. Все, что требуется от вас, — это выбрать нужную тему и объем участия. Вы можете приобрести полное авторство или стать одним из контрибьюторов. Мы гарантируем, что статья будет напечатана и проиндексирована». Эта компания базируется в Латвии и за 12 лет существования помогла опубликовать уже 12 560 работ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Жизнь без еды Жизнь без еды

Среди насекомых есть виды, которые во взрослом состоянии не питаются вовсе

Наука и жизнь
Александр Ширвиндт: «Главное — не допустить, чтобы тебя жалели» Александр Ширвиндт: «Главное — не допустить, чтобы тебя жалели»

«Мы играли что-то необыкновенно острое. Дико бичевали пороки!»

Караван историй
Осушение превратило торфяные леса Индонезии в источник углекислого газа Осушение превратило торфяные леса Индонезии в источник углекислого газа

Дренаж повлиял на леса Индонезии даже хуже, чем регулярные природные засухи

N+1
«Малым территориям — большое будущее» «Малым территориям — большое будущее»

Технология развития северных территорий через вовлечение местного сообщества

Позитивные изменения
История первого героя СССР: за что Анатолий Ляпидевский удостоился высшей награды История первого героя СССР: за что Анатолий Ляпидевский удостоился высшей награды

Медаль «Золотая Звезда» с порядковым номером 1 в СССР была только одна

ТехИнсайдер
К вершине наслаждений К вершине наслаждений

Как и когда мы переживаем оргазм? И что нам мешает?

Psychologies
Как увеличить шрифт на iPhone и еще несколько полезных фишек, о которых вы могли даже не слышать Как увеличить шрифт на iPhone и еще несколько полезных фишек, о которых вы могли даже не слышать

Если покопаться в настройках своего телефона, можно найти много полезных опций

ТехИнсайдер
Истории, стоящие за портретами. Кем были музы и натурщицы Бориса Кустодиева Истории, стоящие за портретами. Кем были музы и натурщицы Бориса Кустодиева

Глава из книги «Картинные девушки» — о музах и художниках

СНОБ
Как выбрать хороший бинокль и не прогадать Как выбрать хороший бинокль и не прогадать

На что обращать внимание при выборе хорошего бинокля?

CHIP
Удивительная находка! Майя «благословляли» площадки для игры в мяч галлюциногенными растениями Удивительная находка! Майя «благословляли» площадки для игры в мяч галлюциногенными растениями

Археологи использовали ДНК, чтобы сделать «экстраординарное» открытие

ТехИнсайдер
Кто такой Mr. Parker и Владимир Владимирович(тм): умер легенда «ЖЖ» — журналист Максим Кононенко Кто такой Mr. Parker и Владимир Владимирович(тм): умер легенда «ЖЖ» — журналист Максим Кононенко

Mr. Parker — один из тех, кто определял стиль российского сегмента Интернета

Maxim
Денис и Артемий Драгунские: «Мы поэты чего-то оптимистического» Денис и Артемий Драгунские: «Мы поэты чего-то оптимистического»

Писатель Денис Драгунский — о том, что для него значит слово «династия»

Правила жизни
Открытый просмотр Открытый просмотр

12 картин, которые подарят вам всю палитру эмоций

Men Today
Вас называют «папиной дочкой»? Узнайте, какие опасности скрывает этот архетип Вас называют «папиной дочкой»? Узнайте, какие опасности скрывает этот архетип

Чем архетип «папиной дочки» может быть опасен для дочери и для семьи в целом

Psychologies
Правила этикета: как вести себя в самолете, чтобы не испортить полет ни себе, ни окружающим Правила этикета: как вести себя в самолете, чтобы не испортить полет ни себе, ни окружающим

Как следует вести себя на борту самолета с точки зрения этикета

ТехИнсайдер
Что такое настоящая дружба и как ее обрести: рассуждения экспертов Что такое настоящая дружба и как ее обрести: рассуждения экспертов

Какую дружбу мы считаем верной и что сделать, чтоб она у нас была?

Psychologies
Татуаж ареол: как преобразить грудь с помощью перманентного макияжа Татуаж ареол: как преобразить грудь с помощью перманентного макияжа

Как с помощью перманентного макияжа можно преобразить ареолы груди

VOICE
Символы статуса: 5 вещей, которые почти невозможно получить, даже если вы баснословно богаты Символы статуса: 5 вещей, которые почти невозможно получить, даже если вы баснословно богаты

Кое-что в этой жизни так просто не покупается (и речь тут не о сантиментах)

Maxim
Знать себе цену Знать себе цену

Как выбирать наилучшую стратегию прохождения карьерного пути?

Psychologies
Внутреннее ощущение «красоты» важнее, чем внешность Внутреннее ощущение «красоты» важнее, чем внешность

Намного важнее чувствовать себя хорошо, чем выглядеть хорошо

ТехИнсайдер
Как вернуть себе контроль над эмоциями: 2 простые техники Как вернуть себе контроль над эмоциями: 2 простые техники

Почему важно уметь определять свои эмоции и что помогает ими управлять

Psychologies
Рейтинг для чемпионов Рейтинг для чемпионов

Рейтинг топовых российских спортсменов, чьи выступления не теряют актуальности

Men Today
Удивительный мир живой природы: как общаются между собой живые организмы Удивительный мир живой природы: как общаются между собой живые организмы

Самые необычные способы коммуникации из мира фауны

ТехИнсайдер
Любовные страсти Древнем Новгороде Любовные страсти Древнем Новгороде

О чем писали в берестяных грамотах древние новгородцы?

Знание – сила
8 случаев внезапных смертей глав государств 8 случаев внезапных смертей глав государств

Президенты, умершие насильственной смертью или в результате несчастных случаев

Maxim
Без вины виноватые: почему учителя становятся объектами травли со стороны подростков Без вины виноватые: почему учителя становятся объектами травли со стороны подростков

С чем связана агрессия у подростков и как правильнее на нее реагировать учителю?

Psychologies
Первый пациент с чипом Neuralink рассказал о жизни после операции Первый пациент с чипом Neuralink рассказал о жизни после операции

Первый пациент, которому вживили чип Neuralink, рассказал о жизни после операции

Forbes
Правильный гардероб: эксперт моды Тим Ильясов — об итальянском стиле, идеальных пиджаках и нелюбви к трендам из тиктока Правильный гардероб: эксперт моды Тим Ильясов — об итальянском стиле, идеальных пиджаках и нелюбви к трендам из тиктока

Исследователь моды Тим Ильясов — о мечтах юности и давних кумирах

Правила жизни
Путешествие с друзьями: 10 советов Путешествие с друзьями: 10 советов

Рекомендации для тех, кто хочет взять с собой хвостатых в отпуск

Новый очаг
«У меня нет контакта со всеми. У меня есть контакт с каждым». Отрывок из книги о детском спорте «У меня нет контакта со всеми. У меня есть контакт с каждым». Отрывок из книги о детском спорте

Как избежать физических и психологических травм в детском спорте

СНОБ
Открыть в приложении