Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сделать красиво Сделать красиво

Марина Ермошкина знает, как сделать так, чтобы о тебе заговорила страна

OK!
Замедление Европы Замедление Европы

Как страны Старого Света растеряли свои экономические преимущества

Деньги
Поболтаем? Как научиться легко вести непринужденные беседы (это очень полезное умение!) Поболтаем? Как научиться легко вести непринужденные беседы (это очень полезное умение!)

Зачем тебе учиться искусству small talk?

VOICE
История одной песни: первый хит СССР про освоение космоса, 1960 История одной песни: первый хит СССР про освоение космоса, 1960

Как Владимир Трошин написал свою культовую песню про космос?

Maxim
4 главных правила, которые помогут стать успешным блогером 4 главных правила, которые помогут стать успешным блогером

Как стать успешным инфлюенсером?

Psychologies
Капроновый чулок на голове: как попытка переодеть партнершу может быть формой абьюза Капроновый чулок на голове: как попытка переодеть партнершу может быть формой абьюза

Как влияние на стиль одежды партнера может быть формой абьюза

Forbes
Как найти идеального партнера по типу личности: 4 сценария Как найти идеального партнера по типу личности: 4 сценария

Партнер какого типа личности вам подходит?

Psychologies
Топ-модель из Еманжелинска: в чем феномен Ирины Шейк Топ-модель из Еманжелинска: в чем феномен Ирины Шейк

Как красавица из Челябинской области покорила весь мир?

Psychologies
Все в ажуре: зачем торговец медом потратил 700 млн рублей на народный промысел Все в ажуре: зачем торговец медом потратил 700 млн рублей на народный промысел

Как семье Георгиевых удалось монетизировать крестьянскую вышивку

Forbes
«От саванны до дивана: Эволюционная история кошек» «От саванны до дивана: Эволюционная история кошек»

Почему внешность домашних кошек разнообразнее, чем у их предков

N+1
Нуар с двойным дном Нуар с двойным дном

«Шугар»: Колин Фаррелл копипастит голливудскую классику

Weekend
Главы моды: как женщины развивают модную индустрию Главы моды: как женщины развивают модную индустрию

Самые влиятельные героини модной индустрии в России и основательницы брендов

Forbes
Экстремальное похудение: как Оземпик бьет по здоровью Экстремальное похудение: как Оземпик бьет по здоровью

Какой вред здоровью и красоте на самом деле наносит Оземпик?

Psychologies
Желудочный тракт Желудочный тракт

Любая дорога для настоящего гурмана — путь наслаждений

СНОБ
Бизнес вышел на охоту за инвесторами Бизнес вышел на охоту за инвесторами

О планах провести IPO заявляют компании, которые хотят усилить свой бренд

Монокль
Кем ты хочешь стать, когда выспишься? Кем ты хочешь стать, когда выспишься?

Как помочь себе, если страдаешь по ночам и не можешь уснуть без проблем

VOICE
Как использовать метафорические карты в повседневной жизни Как использовать метафорические карты в повседневной жизни

Как открытки, иллюстрации и фотографии могут помочь разобраться в себе?

Psychologies
Самая длинная династия Самая длинная династия

О судьбе египетского рода, подарившего миру духи, археологию и монотеизм

Правила жизни
10 крутых концепт-каров, которые так и не добрались до конвейера 10 крутых концепт-каров, которые так и не добрались до конвейера

Путь этих невероятных концептов автомобилей на конвейер оказался слишком тернист

Maxim
«Олененок»: как история о неудачливом комике и его сталкерше стала суперхитом Netflix «Олененок»: как история о неудачливом комике и его сталкерше стала суперхитом Netflix

«Олененок»: шоу, которое внешней комедией исцеляет внутреннюю драму

Forbes
Как понять, что партнер уже готов к браку: 10 главных признаков Как понять, что партнер уже готов к браку: 10 главных признаков

По каким признакам можно определить готовность партнера к семейной жизни

Psychologies
«В нашем институте представлены все направления современной астрономии» «В нашем институте представлены все направления современной астрономии»

Директор ГАИШ — об истории института имени П.К. Штернберга МГУ

Зеркало Мира
Цейлон Форт Галле Цейлон Форт Галле

Форт Галле: одна из крупнейших крепостей в Азии, созданная колонизаторами

Знание – сила
Эксперт фен-шуй раскрыла секрет гармоничного пространства даже в небольшой студии Эксперт фен-шуй раскрыла секрет гармоничного пространства даже в небольшой студии

Что поможет восстановить гармонию энергий и баланс в квартире-студии

VOICE
Как выглядит настоящая мимоза, ведь то, что мы называем мимозой, вовсе не мимоза! Как выглядит настоящая мимоза, ведь то, что мы называем мимозой, вовсе не мимоза!

Только черт и знает, как называется цветы, которые мы называем мимозой

ТехИнсайдер
Почему собаки дают лапу и пристают к людям? Узнайте несколько интерсных причин! Почему собаки дают лапу и пристают к людям? Узнайте несколько интерсных причин!

Почему собаки внезапно начинают почти что приставать к хозяевам?

ТехИнсайдер
Говорят, мы бяки-буки: самые нестандартные бандиты в кино Говорят, мы бяки-буки: самые нестандартные бандиты в кино

Нестандартные экранные преступники, разрушающие привычный шаблон

Правила жизни
Как женщине понять мужчину: рекомендации психолога Как женщине понять мужчину: рекомендации психолога

Как понять мужскую психологию?

Psychologies
Какие мужские качества гарантируют счастливые отношения Какие мужские качества гарантируют счастливые отношения

Какие качества помогают мужчинам изменить и сохранить отношения в браке?

Psychologies
Что не так со «Смутой» от новосибирской студии Cyberia Nova Что не так со «Смутой» от новосибирской студии Cyberia Nova

Разбираемся в причинах провала главной российской игры этого года

Maxim
Открыть в приложении