Инструменты ИИ бросают вызов научным инструментам поиска истины

МонокльHi-Tech

Может ли ChatGPT обмануть ученых

Инструменты искусственного интеллекта бросают вызов научным инструментам поиска истины

Виталий Лейбин

Искусственный интеллект радикально меняет жизнь ученых. Omar Marques/sopa; Andreas Arnold/DPA

Использование инструментов искусственного интеллекта (ИИ) в науке стало предметом бурной полемики в академической прессе. За последний месяц в Nature были опубликованы статья «Как ChatGPT и другие инструменты искусственного интеллекта могут исказить систему научных публикаций» и собственный экспертный опрос «ИИ и наука: что думают 1600 исследователей».

Наряду с дежурным технооптимизмом в этих публикациях поставлены проблемы, ряд которых уже привели к организационным решениям в сфере научных публикаций. Самые авторитетные научные журналы ввели ограничения против использования инструментов искусственного интеллекта при подготовке статей: Science вообще перестал принимать статьи, написанные с помощью ИИ, а Nature требует от авторов заявлять об его использовании при написании текстов.

«На мой взгляд, основная опасность не в том, что широкое использование инструментов искусственного интеллекта увеличит число статей, представляющих собой наспех приготовленные поделки низкого качества. В конце концов, это неважно: одним графоманом больше, одним меньше… Будет гораздо хуже, если при рецензировании статей и заявок на гранты будут использоваться большие языковые модели. Вот в этом случае будет искоренена всякая оригинальность в науке, будет наказываться любое отклонение от мейнстрима, — считает академик РАН, декан факультета фундаментальной физико-химической инженерии МГУ Алексей Хохлов. — Эта опасность подробно обсуждается в одной из статей в Nature, но предлагаемые меры борьбы с ней как-то не впечатляют. В целом складывается ощущение, что научное сообщество пока еще только нащупывает оптимальные ответы на те вызовы, которые возникают при широком использовании инструментов ИИ в научных исследованиях».

Польза нейросетей

Не следует смешивать две темы, касающиеся использования нейросетей в науке. Первое — это использование инструментов искусственного интеллекта, созданных и обученных специально для решения какой-то научной проблемы. Здесь есть впечатляющие успехи и бурный рост числа публикаций. В части из них сравниваются разные компьютерные модели для решения задач — разной хитрости алгоритмы, разные модели компьютерного обучения и собственно нейронные сети. (Такие машины учатся на больших данных, результаты обучения записывают в форме связей между виртуальными «нейронами» — узлами сети и работают как «черный ящик» — как именно они решают задачи, неизвестно.) Тренд тут очевиден: благодаря прогрессу в вычислительных мощностях и оцифровке данных нейросетевые модели ИИ все чаще выигрывают и у формульных алгоритмов (решающих задачи согласно теории), у статистических методов, а также у других алгоритмов компьютерного обучения.

Самым впечатляющим примером успеха искусственного интеллекта в науке остается результат, достигнутый в 2020 году нейросетевой моделью AlphaFold (потомок DeepMind), которая с потрясающей точностью решает одну из главных проблем молекулярной биологии — предсказывает 3D-структуру белков на основе кодирующих их генов. Программа выложена с открытым кодом, ею уже активно пользуются ученые. Это вещь очень практичная: зная структуру белка, вы можете понимать функции генов и направленно проектировать лекарства, которые имеют мишенью данный белок. Кроме того, с помощью ИИ уже открыто несколько перспективных лекарственных формул, предсказаны неизвестные ранее пути химического синтеза и многое другое.

Но в последнее время обсуждение инструментов искусственного интеллекта все чаще связано с выпуском в общий доступ ChatGPT и других больших генеративных языковых моделей (которые учатся на множестве текстов и сами их генерируют). Чат-бот ChatGPT и другие языковые модели респонденты-ученые в исследовании Nature называли чаще всего, когда их просили указать наиболее полезный пример инструментов ИИ в науке (AlphaFold идет на втором месте).

Стадия громкого успеха и роста ожиданий, связанных с разговорными и картиночными чатами, уже прошла, и даже стало проявляться некоторое разочарование их возможностями. Но при этом большие языковые модели прочно вошли в нашу жизнь, иногда несильно ее меняя (многие используют их просто как более удобный поисковик и для составления черновиков для рефератов), иногда значительно (программисты говорят о большой экономии времени при написании фрагментов кода).

Ученые из опроса Nature (были разосланы анкеты 40 тыс. исследователей, опубликовавших свои работы в последние четыре месяца прошлого года) используют чаты для поиска идей, написания кода, а некоторые пробуют их возможности для дизайна новых белковых структур, улучшения прогнозов погоды и постановки медицинских диагнозов.

Как минимум сейчас уже очевидно, что ChatGPT помогает писать научные статьи на более внятном английском тем, для кого этот язык не родной. «Использование инструментов искусственного интеллекта может сделать сферу науки более справедливой», — говорит Тацуя Амано, эколог японского происхождения из Университета Квинсленда (Брисбен, Австралия). Он опросил более 900 коллег-экологов и показал, что начинающие ученые с неродным английским тратят в два раза больше времени собственно на текст статьи, чем носители языка, что несправедливо. На этом основании он пытался оспорить решение редакции Science о запрете использования инструментов искусственного интеллекта при написании статьей, предложив вместо этого заявлять о его использовании и прикладывать вариант рукописи без машинной редактуры.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

40 диких фактов об акулах, которые знают далеко не все 40 диких фактов об акулах, которые знают далеко не все

Что мы знаем об акулах?

Maxim
Камиль Ларин: Правила хорошей дружбы Камиль Ларин: Правила хорошей дружбы

История-посиделка от участника «Квартета И»

Maxim
Новый код спешит на помощь Новый код спешит на помощь

Программируем 2024-й: как искусственный разум изменит нашу жизнь

Монокль
Ничего обнадеживающего: как народные сказки учат нас терпеть абьюз Ничего обнадеживающего: как народные сказки учат нас терпеть абьюз

Отрывок из книги «Архетипы в русских сказках»

Forbes
Сахар, ты где? Сахар, ты где?

Как производители маскируют сахар в своих продуктах

Лиза
Коврик не понадобится: 5 простых упражнений для пресса, которые можно делать стоя Коврик не понадобится: 5 простых упражнений для пресса, которые можно делать стоя

Не любишь скручиванию и планку? Есть другие варианты для прокачки пресса!

VOICE
Доставить радость Доставить радость

Твой подарок точно понравится, если учесть психотип человека!

Лиза
Сколько секса нужно для счастья? Сколько секса нужно для счастья?

Сколько секса нам нужно?

Добрые советы
«Тушкино семейство» «Тушкино семейство»

Ту-204 – среднемагистральный пассажирский самолет

Наука и техника
Великая реквизиция Великая реквизиция

Как автомобильные марки не ушли, а остались в Первую мировую

Автопилот
Елена Лядова: «Дом — не дом, если там холодно и нет любви» Елена Лядова: «Дом — не дом, если там холодно и нет любви»

Крыло горит, я на высоте, а вся группа — внизу

Караван историй
Конфликт с начальством Конфликт с начальством

Как себя правильно вести и не испортить репутацию

Лиза
Ферма будущего Ферма будущего

Как семейное увлечение мыловарением выросло в большой бренд

Seasons of life
Спорно, но задорно Спорно, но задорно

Гарик Харламов вспомнил и проанализировал историю конфликтов в своей жизни

Men Today
Банковская «цифра» для экспортера Банковская «цифра» для экспортера

Что сегодня позволяет получать господдержка российского экспорта

РБК
Минздрав Сахалина о привлечении кадров: «Предусмотрены выплаты и компенсация за аренду квартиры» Минздрав Сахалина о привлечении кадров: «Предусмотрены выплаты и компенсация за аренду квартиры»

Как Сахалинская область привлекает врачей из других регионов?

ФедералПресс
Как тип привязанности хозяина влияет на характер питомцев: 3 сценария Как тип привязанности хозяина влияет на характер питомцев: 3 сценария

Как питомцы копируют тип привязанности своих хозяев

Psychologies
Между выгодой и риском Между выгодой и риском

Как в России и мире пытаются регулировать ИИ

РБК
Лидеры и мнения Лидеры и мнения

Как за 25 лет изменились телевидение и люди, которые его создают?

Правила жизни
Дорогие коллеги Дорогие коллеги

Как подобрать подарок для коллег или подчиненных и не прогадать

Лиза
Введение в компьютерную вирусологию Введение в компьютерную вирусологию

Изобретение Фредерика Коэна поставило под угрозу главное достижение цивилизации

Наука
Не такой уж малый Не такой уж малый

Меры поддержки кредитования МСП все еще охватывают ничтожную его часть

Монокль
Заморозить развитие: почему криобанки — это технологии будущего Заморозить развитие: почему криобанки — это технологии будущего

На самом деле уже очевидно, что не за горами новый король — биотех

Forbes
От империй Луны к серым пришельцам: развитие представлений о внеземной жизни От империй Луны к серым пришельцам: развитие представлений о внеземной жизни

Ночью люди смотрели на звезды и старались придумать видимому какое-то объяснение

Наука и техника
Окаменелости растений из Колумбии оказались панцирями черепашат Окаменелости растений из Колумбии оказались панцирями черепашат

Палеонтологи исправили ошибку непрофессионального коллеги спустя 20 лет

N+1
«Управляя эмоциями, вы сохраните отношения»: как бороться с гневом и страхом «Управляя эмоциями, вы сохраните отношения»: как бороться с гневом и страхом

Глава из книги «Комплексное ПТСР» — как справиться с гневом и страхом?

Forbes
Не сахарный, но растает Не сахарный, но растает

Сибирские гляциологи изучают, как возникают ледники и как они эволюционируют

Наука
Добродетельные матроны Добродетельные матроны

У Цезаря и Антония было немало женщин помимо Клеопатры

Дилетант
Гавань по имени БРИКС Гавань по имени БРИКС

БРИКС привлекает глобальные инвестиции в эпоху перемен

Деньги
Мечты о будущем. Как фантасты создавали реальность на тысячи лет вперед Мечты о будущем. Как фантасты создавали реальность на тысячи лет вперед

На страницах романов они обещали, стращали или просили верить в человечество

СНОБ
Открыть в приложении