ИИ обладают предсказательной способностью, но не могут заглянуть на шаг вперед

ForbesHi-Tech

Самоуверенный алгоритм: какие риски внедрения ИИ пока недооцениваются

Иван Стельмах

Фото Axel Heimken / picture alliance via Getty Images

Главную проблему алгоритмов ИИ можно сформулировать как парадокс: они обладают мощной предсказательной способностью, но при этом не в состоянии заглянуть хотя бы на шаг вперед. Чтобы не стать жертвой ошибочных решений, которые предлагает ИИ, в его разработке должны участвовать не только математики, но и менеджеры, социологи и экономисты, считает профессор РЭШ Иван Стельмах.

За громкими спорами о достижении «точки сингулярности» искусственного интеллекта (ИИ) и необходимости запрета дальнейшего развития технологии теряются менее хайповые, но более важные риски. Если разобраться в том, как работает ИИ, часть опасений сойдет на нет: и по поводу восстания машин, и по поводу того, что нейросети уже завтра заменят всех в офисе. Однако мы обнаружим другие риски, которые могут оказать влияние на нашу жизнь уже сейчас. Поговорим об актуальных рисках ИИ и о том, как ученые, бизнес и общество могут совместно работать над безопасной социальной адаптацией искусственного интеллекта.

Реакция системы

За последние годы ИИ как продукт сделал огромный скачок — при общении с ChatGPT сложно поверить, что алгоритм по ту сторону экрана основывается исключительно на статистических закономерностях. При этом основная парадигма остается неизменной: большинство алгоритмов работают по принципу, который состоит из двух шагов:

  • Шаг 1. Нахождение статистических паттернов в исторических данных
  • Шаг 2. Применение найденных паттернов на новых данных

Рассмотрим простой пример — платформу видео-хостинга. Алгоритмы могут проанализировать историю просмотров всех пользователей (Шаг 1) и сделать персонализированные предсказания о том, какое видео понравится каждому пользователю (Шаг 2).

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Петр Ефремов — Forbes: «Российское виноделие в возрасте начала плодоношения» Петр Ефремов — Forbes: «Российское виноделие в возрасте начала плодоношения»

Об условиях, в которых развивается российское виноделие

Forbes
«Я не развелся»: Леша Свик рассказал об измене жене, которая ушла от него после рождения дочери «Я не развелся»: Леша Свик рассказал об измене жене, которая ушла от него после рождения дочери

Ксения Ткачева обвинила Лешу Свика в измене сразу после пополнения в семействе

VOICE
Типы матриц телевизоров: выбираем лучшую Типы матриц телевизоров: выбираем лучшую

Матрицы телевизоров: как в них не запутаться и какой тип выбрать?

CHIP
«Мною сильно манипулировали»: Кристина Асмус объяснила, почему не уходила от избивавшего ее мужчины «Мною сильно манипулировали»: Кристина Асмус объяснила, почему не уходила от избивавшего ее мужчины

Актрису возмутили предположения о том, что она сама виновата в домашнем насилии

VOICE
Укус осы: правила первой помощи и 8 советов, как его избежать Укус осы: правила первой помощи и 8 советов, как его избежать

Большой угрозы укус осы не представляет, но есть исключения

РБК
«Главное — профессиональный уровень проекта»: как меняется роль женщины в архитектуре «Главное — профессиональный уровень проекта»: как меняется роль женщины в архитектуре

Женщины до сих пор составляют меньшинство среди архитекторов. Дарья Белякова

Forbes
Что общего между фольклором и стрит-артом. Отвечают современные художники Что общего между фольклором и стрит-артом. Отвечают современные художники

Как связаны между собой стрит-арт и фольклор?

СНОБ
Как психологи определяют стоимость консультаций: 3 вопроса экспертам Как психологи определяют стоимость консультаций: 3 вопроса экспертам

«А почему цена за сессию именно такая?» Разбираемся в стоимости психотерапии

Psychologies
Мнение экспертов: веганы улучшают экологию Земли. Поменяете диету? Мнение экспертов: веганы улучшают экологию Земли. Поменяете диету?

Веганская диета позитивно сказывается на экологическом состоянии нашей планеты

ТехИнсайдер
Дальнего следования Дальнего следования

Опыты с гибридом Skywell HT-I

Автопилот
Вопрос, волнующий всех собачников: можно ли питомцу давать кости? Вопрос, волнующий всех собачников: можно ли питомцу давать кости?

Можно ли давать собакам кости, которые остаются после ужина?

ТехИнсайдер
Умерла накануне дня рождения и спилась: трагические судьбы актрис, сыгравших советских учительниц Умерла накануне дня рождения и спилась: трагические судьбы актрис, сыгравших советских учительниц

Жизненный путь некоторых советских актрис оказался труден

VOICE
Древние люди из Леванта добыли несколько тонн кремня для рубил примерно в 20 километрах от стоянки Древние люди из Леванта добыли несколько тонн кремня для рубил примерно в 20 километрах от стоянки

Исследователи выяснили, где брали сырье обитатели двух ашельских стоянок

N+1
Директор Музеев Московского Кремля о новом здании, туристах и отношениях с властью Директор Музеев Московского Кремля о новом здании, туристах и отношениях с властью

Почему музейное оборудование невозможно импортозаместить

Forbes
Волшебная страна: как анализировать сон — методы психоанализа, аналитической психологии, психодрамы, гештальт- и арт-терапии Волшебная страна: как анализировать сон — методы психоанализа, аналитической психологии, психодрамы, гештальт- и арт-терапии

Символический язык снов не всегда понятен. Как его расшифровать?

Psychologies
Лишние движения или апатия бездействия: как решать проблемы и не впадать в крайности Лишние движения или апатия бездействия: как решать проблемы и не впадать в крайности

Как найти золотую середину и понять, когда действия нужны, а когда нет

Forbes
Первый галактический источник быстрых радиовсплесков 13 дней побыл радиопульсаром Первый галактический источник быстрых радиовсплесков 13 дней побыл радиопульсаром

Ученые увидели, как галактический магнитар начал и перестал быть радиопульсаром

N+1
Брачные игры XXI века: что изменилось — мнение психолога Брачные игры XXI века: что изменилось — мнение психолога

Как изменились ухаживания в XXI веке?

Psychologies
Дочь великой королевы: как Екатерина Арагонская правила Англией Дочь великой королевы: как Екатерина Арагонская правила Англией

Екатерина Арагонская была выиграла войну и правила страной наравне с мужем

Forbes
Как диснеевские принцессы влияют на психику детей: 4 мультфильма глазами психологов Как диснеевские принцессы влияют на психику детей: 4 мультфильма глазами психологов

От чего зависит то, какое влияние окажет на ребенка мультфильм?

Psychologies
Промежуточная еда: как перекусить с пользой для здоровья Промежуточная еда: как перекусить с пользой для здоровья

Вместе с экспертами отвечаем на вечный вопрос, что бы еще съесть, чтобы похудеть

Правила жизни
Сама себе психотерапевт. 5 хитов арт-терапии Сама себе психотерапевт. 5 хитов арт-терапии

Если ты устала, возьми тайм-аут и займись арт-терапией

Лиза
Покровительница христианских народов: как Россия боролась за влияние на Балканах Покровительница христианских народов: как Россия боролась за влияние на Балканах

Как обрастала мифами история отношений России и Западных Балкан?

Forbes
От Роналду и Гретцки до Трусовой и Уильямс: спортивные рекорды книги Гиннесса От Роналду и Гретцки до Трусовой и Уильямс: спортивные рекорды книги Гиннесса

Каких спортсменов можно найти на страницах книги рекордов?

Forbes
Одна инъекция белка Клото улучшила память макак Одна инъекция белка Клото улучшила память макак

Ученые из США ввели макакам-резус белок Клото

N+1
Рак щитовидной железы: как не допустить развития болезни — 6 главных правил Рак щитовидной железы: как не допустить развития болезни — 6 главных правил

Как выявить «тихий рак» щитовидной железы на ранней стадии болезни?

Psychologies
Поразительная Поразительная

Как с помощью зеркала обмануть мозг и ускорить выздоровление после инсульта?

ТехИнсайдер
Просто дети стали старше: чем хороша и чем плоха «Барби» Греты Гервиг Просто дети стали старше: чем хороша и чем плоха «Барби» Греты Гервиг

С какими концептуальными проблемами сталкивается игрушечная сатира

Правила жизни
Трагическая жизнь Шинейд О'Коннор: «пытки» в детстве, смерть сына и четыре неудачных брака Трагическая жизнь Шинейд О'Коннор: «пытки» в детстве, смерть сына и четыре неудачных брака

Трагическая история жизни Шинейд О'Коннор

VOICE
«Папа пробрался в шоу-бизнес лучше мамы»: дочь Глюкозы рассказала, кто помогает ей в карьере «Папа пробрался в шоу-бизнес лучше мамы»: дочь Глюкозы рассказала, кто помогает ей в карьере

16-летняя дочь Глюк’оZы пошла по ее стопам

VOICE
Открыть в приложении