ИИ обладают предсказательной способностью, но не могут заглянуть на шаг вперед

ForbesHi-Tech

Самоуверенный алгоритм: какие риски внедрения ИИ пока недооцениваются

Иван Стельмах

Фото Axel Heimken / picture alliance via Getty Images

Главную проблему алгоритмов ИИ можно сформулировать как парадокс: они обладают мощной предсказательной способностью, но при этом не в состоянии заглянуть хотя бы на шаг вперед. Чтобы не стать жертвой ошибочных решений, которые предлагает ИИ, в его разработке должны участвовать не только математики, но и менеджеры, социологи и экономисты, считает профессор РЭШ Иван Стельмах.

За громкими спорами о достижении «точки сингулярности» искусственного интеллекта (ИИ) и необходимости запрета дальнейшего развития технологии теряются менее хайповые, но более важные риски. Если разобраться в том, как работает ИИ, часть опасений сойдет на нет: и по поводу восстания машин, и по поводу того, что нейросети уже завтра заменят всех в офисе. Однако мы обнаружим другие риски, которые могут оказать влияние на нашу жизнь уже сейчас. Поговорим об актуальных рисках ИИ и о том, как ученые, бизнес и общество могут совместно работать над безопасной социальной адаптацией искусственного интеллекта.

Реакция системы

За последние годы ИИ как продукт сделал огромный скачок — при общении с ChatGPT сложно поверить, что алгоритм по ту сторону экрана основывается исключительно на статистических закономерностях. При этом основная парадигма остается неизменной: большинство алгоритмов работают по принципу, который состоит из двух шагов:

  • Шаг 1. Нахождение статистических паттернов в исторических данных
  • Шаг 2. Применение найденных паттернов на новых данных

Рассмотрим простой пример — платформу видео-хостинга. Алгоритмы могут проанализировать историю просмотров всех пользователей (Шаг 1) и сделать персонализированные предсказания о том, какое видео понравится каждому пользователю (Шаг 2).

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Слушаем и не осуждаем: чем полезны сплетни на работе и когда они вредят коллективу Слушаем и не осуждаем: чем полезны сплетни на работе и когда они вредят коллективу

Как сплетни и слухи могут влиять на рабочий процесс и настроения в офисе

Forbes
Почему брак трещит по швам: 7 идей из книги «Как найти любовь, которую стоит сохранить» Почему брак трещит по швам: 7 идей из книги «Как найти любовь, которую стоит сохранить»

Почему счастливый брак может стать пыткой для вас?

Psychologies
Трое в лодке: на ком лежит ответственность за кибербезопасность Трое в лодке: на ком лежит ответственность за кибербезопасность

Кто виноват в том, что хакерам удалось провести успешную кибератаку?

Forbes
Шаманы и шаманизм Шаманы и шаманизм

Почему шаманизм многих пугает и как он работает на самом деле?

Лиза
Психологический портрет: что такое дисморфофобия, или синдром Квазимодо Психологический портрет: что такое дисморфофобия, или синдром Квазимодо

Что нужно знать о дисморфофобии?

Forbes
13 самых популярных вопросов про кондиционеры: проверьте свои знания 13 самых популярных вопросов про кондиционеры: проверьте свои знания

Кондиционеры: все, о чем вы не знали, у кого спросить

CHIP
«Муж на первом месте»: Михаил Галустян объяснил, почему запретил работать русской жене «Муж на первом месте»: Михаил Галустян объяснил, почему запретил работать русской жене

Михаил Галустян объяснил, почему его супруга не должна работать

VOICE
Как называют полицейских в разных странах и что это значит Как называют полицейских в разных странах и что это значит

Изучаем жаргонные названия полицейских в разных странах

Maxim
Немой заговорил: пять стадий принятия звука в кино Немой заговорил: пять стадий принятия звука в кино

Как звук захватил кино и как индустрия пережила революцию

Правила жизни
«Cтрах одиночества родом из детства»: как рождается аутофобия — мнение психиатра «Cтрах одиночества родом из детства»: как рождается аутофобия — мнение психиатра

Почему мы так боимся одиночества и при чем тут отношения с матерью?

Psychologies
Ритмы жизни Ритмы жизни

Все причины начать танцевать прямо сегодня

VOICE
Владимир Маяковский в десяти словах, сказанных им самим Владимир Маяковский в десяти словах, сказанных им самим

Портрет Владимира Маяковского в десяти словах из его стихов

Правила жизни
Эффект дорогой женщины: как одеваться, будто ты миллионерша, и не тратить много Эффект дорогой женщины: как одеваться, будто ты миллионерша, и не тратить много

Стилист собрала 8 правил для эффекта "дорогой" женщины

VOICE
Сон для красоты: 5 секретов от голливудских сомнологов Сон для красоты: 5 секретов от голливудских сомнологов

Как отправиться в объятия Морфея с максимальной пользой для своей внешности

VOICE
Человечество производит столько курятины, что кости птиц стали символом новой геологической эпохи Человечество производит столько курятины, что кости птиц стали символом новой геологической эпохи

Почему именно куриные кости будут одними из важных находок археологов будущего?

ТехИнсайдер
Радость моя, твоя, наша Радость моя, твоя, наша

Поговорка «Кому – арбуз, а кому – свиной хрящик» не лишена смысла

Лиза
SSD или HDD: что лучше использовать для бэкапов и архивов? SSD или HDD: что лучше использовать для бэкапов и архивов?

Какой тип памяти лучше всего подходит для «консервации» своих данных?

CHIP
Как мозг строит модели будущего и действует согласно этим моделям Как мозг строит модели будущего и действует согласно этим моделям

Память не только сохраняет воспоминания, но и позволяет прогнозировать будущее

ТехИнсайдер
Аудизм: почему мы так мало знаем о том, как на самом деле живут слабослышащие люди Аудизм: почему мы так мало знаем о том, как на самом деле живут слабослышащие люди

Как, разрушив стереотипы, прийти к понимаю между глухими и слышащими?

Forbes
Как психологи определяют стоимость консультаций: 3 вопроса экспертам Как психологи определяют стоимость консультаций: 3 вопроса экспертам

«А почему цена за сессию именно такая?» Разбираемся в стоимости психотерапии

Psychologies
Очная ставка Очная ставка

Чего нам ждать от возрождения «Оки»

Автопилот
Рак щитовидной железы: как не допустить развития болезни — 6 главных правил Рак щитовидной железы: как не допустить развития болезни — 6 главных правил

Как выявить «тихий рак» щитовидной железы на ранней стадии болезни?

Psychologies
Через призму кино: как Алексей Ган стал одним из создателей русского конструктивизма Через призму кино: как Алексей Ган стал одним из создателей русского конструктивизма

Глава из монографии о художнике Алексее Гане

Forbes
Разработан более дешевый способ обучения Больших языковых моделей Разработан более дешевый способ обучения Больших языковых моделей

Новый способ оптимизации предварительного обучения Больших языковых моделей

ТехИнсайдер
Босиком по росе Босиком по росе

Бегать босиком полезно или вредно?

Здоровье
Едем в Марий Эл Едем в Марий Эл

Ради чего стоит отправиться в Марий Эл?

Лиза
Мы новый мир построим Мы новый мир построим

Как изменятся декорации нашей жизни?

Men Today
Пляжное тело: почему считается, что право надеть купальник нужно заслужить, — личный опыт и мнение психологов Пляжное тело: почему считается, что право надеть купальник нужно заслужить, — личный опыт и мнение психологов

Почему надеть бикини порой может быть непросто?

Psychologies
Пазл Кристофера Нолана. Из чего состоит кино режиссера-визионера Пазл Кристофера Нолана. Из чего состоит кино режиссера-визионера

Как устроено кино Кристофера Нолана

СНОБ
Коппола: как выходцы из семьи итальянских иммигрантов изменили Голливуд Коппола: как выходцы из семьи итальянских иммигрантов изменили Голливуд

Отрывок из книги «Коппола. Семья, изменившая кинематограф» Айана Натана

Forbes
Открыть в приложении