Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

История одной песни: «Smack My Bitch Up», The Prodigy, 1997 История одной песни: «Smack My Bitch Up», The Prodigy, 1997

Песня, в которой собрано столько всего неприличного, что даже боязно перечислять

Maxim
Малые, но не забытые: как поддерживают коренные народы, ведущие традиционный образ жизни Малые, но не забытые: как поддерживают коренные народы, ведущие традиционный образ жизни

С какими проблемами встречаются коренные народы России?

ФедералПресс
Скажи «мяу» Скажи «мяу»

Даем таблетку кошке без ссор и скандалов

Лиза
Высокая материя Высокая материя

Chanel переосмысливает культовый твид — в платине и драгоценных камнях

RR Люкс.Личности.Бизнес.
Правда, что от страха можно поседеть за одну ночь? Правда, что от страха можно поседеть за одну ночь?

Неужели действительно можно в одночасье поседеть?

ТехИнсайдер
«Киноглаз» против «кинокулака» «Киноглаз» против «кинокулака»

История Дзиги Вертова и неслучившейся «кинокизации» всей страны

Weekend
Как убрать живот без спортзала Как убрать живот без спортзала

Как убрать живот без диет и изнурительных тренировок

Psychologies
PL Storage PL Storage

PL Storage — склад фэшн-идей каллигра-футуриста покраса лампаса

Собака.ru
Ледяное «сердце» Плутона объяснили косым столкновением с крупным телом Ледяное «сердце» Плутона объяснили косым столкновением с крупным телом

Исследование: подповерхностного океана на карликовой планете может и не быть

N+1
Юлия Франц: «В театральном легко не бывает» Юлия Франц: «В театральном легко не бывает»

И на меня в частности вылился поток злых комментариев, оскорблений и даже угроз

Караван историй
Послеродовая депрессия: что нужно знать близким Послеродовая депрессия: что нужно знать близким

Послеродовая депрессия это не усталость, не «минутная слабость» и не каприз

Psychologies
Список Будисавлевич: как домохозяйка спасла из немецких концлагерей тысячи детей Список Будисавлевич: как домохозяйка спасла из немецких концлагерей тысячи детей

Как Диана Будисавлевич в годы гитлеровской оккупации спасала детей

Forbes
Дмитрий Куличков: «Табаков нередко повторял, что наше дело веселенькое. Театр для него был праздником» Дмитрий Куличков: «Табаков нередко повторял, что наше дело веселенькое. Театр для него был праздником»

«Мой дебют в кино случился в «Шукшинских рассказах», их снимал Аркадий Сиренко»

Коллекция. Караван историй
Нзинга Мбади Нгола: как африканская королева 40 лет сражалась с колонизаторами Нзинга Мбади Нгола: как африканская королева 40 лет сражалась с колонизаторами

История африканской королевы, которая была готова пойти на всё ради своей страны

Forbes
Татьяна Устинова: «Я научилась слушать» Татьяна Устинова: «Я научилась слушать»

Писательница Татьяна Устинова – об опыте работы телеведущей и детективах

Лиза
Убийство в Люблино. Что делать при встрече с автохамами на дороге — советы эксперта Убийство в Люблино. Что делать при встрече с автохамами на дороге — советы эксперта

Что делать при встрече с автохамами на дороге?

СНОБ
«Режимы движения» и их влияние на системы автомобиля «Режимы движения» и их влияние на системы автомобиля

Зачем внедорожникам нужны «режимы движения»?

4x4 Club
Прощайте, ГЭС: как Америка поворачивает историю рек вспять Прощайте, ГЭС: как Америка поворачивает историю рек вспять

За последние четверть века американцы лишились уже более 2000 водохранилищ

ТехИнсайдер
Диеты Диеты

Легко ли похудеть на диете раз и навсегда?

Здоровье
«Стены увидят и донесут»: история репрессированной школьницы Нины Луговской «Стены увидят и донесут»: история репрессированной школьницы Нины Луговской

Почему советская власть прошлась по школьнице Нине Луговской?

ТехИнсайдер
10 самых уродливых автомобилей всех времен и народов 10 самых уродливых автомобилей всех времен и народов

Как машины со столь отталкивающей внешностью вообще могли попасть на конвейер?

Maxim
В чем плюсы и минусы редевелопмента промышленных зданий В чем плюсы и минусы редевелопмента промышленных зданий

Имеет ли смысл реконструировать промышленные здания?

СНОБ
Царевна лягушек Царевна лягушек

Pomodoro, «поедание лягушки» и другие лучшие техники для управления временем

VOICE
Как сказка помогает справиться с комплексами и изменить жизнь Как сказка помогает справиться с комплексами и изменить жизнь

Как сказкотерапия помогает детям и взрослым?

Psychologies
«Песнь пророка» и русский Нобель. Большой разговор о книжных премиях с Андреем Аствацатуровым, Игорем Сухих и Татьяной Емельяновой «Песнь пророка» и русский Нобель. Большой разговор о книжных премиях с Андреем Аствацатуровым, Игорем Сухих и Татьяной Емельяновой

О назначении литературных премий, романе «Песнь пророка» и Нобеле Ивана Бунина

СНОБ
Перед менопаузой есть «перименопауза». Вот как это влияет на психику женщин! Перед менопаузой есть «перименопауза». Вот как это влияет на психику женщин!

Как изменяется психологическое состояние женщины в зависимости от её возраста?

ТехИнсайдер
Археологи описали три каменные стелы из скифской «Долины царей» Археологи описали три каменные стелы из скифской «Долины царей»

Археологи описали находки, сделанные во время раскопок кургана Туннуг-1

N+1
5 установок людей, которых воспитывали трудные родители 5 установок людей, которых воспитывали трудные родители

Пять распространенных установок тех, кого вырастили токсичные родители

Psychologies
Лепет помог птенцам зебровых амадин запомнить отцовскую песню Лепет помог птенцам зебровых амадин запомнить отцовскую песню

Лепет птенцов зебровых амадин запускает процесс запоминания песни наставника

N+1
Как подключить телевизор по HDMI Как подключить телевизор по HDMI

Как подключить ноутбук или компьютер к телевизору по HDMI

CHIP
Открыть в приложении