Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Если проиграете, можете просто выпить»: способы инвестиций в вино, доходность и риски «Если проиграете, можете просто выпить»: способы инвестиций в вино, доходность и риски

Преимущества и недостатки вина как объекта инвестирования

VC.RU
Самые простые способы очистки микроволновой печи: советы профессиональных клинеров Самые простые способы очистки микроволновой печи: советы профессиональных клинеров

Сохранить микроволновку сияющей очень просто — достаточно использовать лайфхаки

VOICE
Свет начал мерцать для разных людей на разной частоте Свет начал мерцать для разных людей на разной частоте

Ученые обнаружили разницу в скорости зрительного восприятия

N+1
5+1 способ найти любовь и отношения 5+1 способ найти любовь и отношения

Как знакомиться людям, имеющим разные черты характера и подчас разные цели

Psychologies
Она придумала мистера Рипли: почему все хотят экранизировать книги Патриции Хайсмит Она придумала мистера Рипли: почему все хотят экранизировать книги Патриции Хайсмит

Что посмотреть из фильмов, созданных на основе историй Патриции Хайсмит?

Forbes
3 книги, в которых главные героини смогли выйти из токсичных отношений 3 книги, в которых главные героини смогли выйти из токсичных отношений

Книги, в которых главные героини оказываются в токсичных отношениях

Psychologies
Нужны ли мигранты российскому «оливье» Нужны ли мигранты российскому «оливье»

Первым запросом после теракта было ужесточение контроля за миграционным потоком

Монокль
Свободные веса: какие бьюти-процедуры помогают оставаться в форме Свободные веса: какие бьюти-процедуры помогают оставаться в форме

Какие бьюти-процедуры помогают уследить за фигурой

Forbes
Удивительно, но факт: подушку безопасности придумали стоматологи Удивительно, но факт: подушку безопасности придумали стоматологи

Благодарить за идею подушки безопасности мы должны двух стоматологов

ТехИнсайдер
5 эффективных способов избавиться от неприятного запаха с ковра 5 эффективных способов избавиться от неприятного запаха с ковра

Давайте же вернем в ваш дом запах свежести

ТехИнсайдер
«Пусть еще погуляется…» Зое Богуславской — 100 лет «Пусть еще погуляется…» Зое Богуславской — 100 лет

Эссе Сергея Николаевича, посвященное Зое Богуславской

СНОБ
Неудобные люди: почему мы пытаемся изменить окружающих Неудобные люди: почему мы пытаемся изменить окружающих

Почему мы стремимся переделать близких людей?

Psychologies
Солнце одно, а эффект разный: почему некоторые люди спокойно загорают на солнце, а другие моментально обгорают Солнце одно, а эффект разный: почему некоторые люди спокойно загорают на солнце, а другие моментально обгорают

Почему люди по-разному реагируют на палящее солнце?

ТехИнсайдер
Почему вы всегда опаздываете Почему вы всегда опаздываете

Почему же вы продолжаете опаздывать?

ТехИнсайдер
Банки с лососем из 1970-х поразили ученых! Вот каких паразитов нашли внутри Банки с лососем из 1970-х поразили ученых! Вот каких паразитов нашли внутри

Ученые поразились содержимому в просроченных банках с лососем

ТехИнсайдер
Совладелица WeFamilyGroup — о развитии гастрономии в малых городах Совладелица WeFamilyGroup — о развитии гастрономии в малых городах

Марина Старчикова о том, как как развивается ресторанная индустрия в регионах

РБК
«Ты мне не отец!»: что важно знать отчиму, чтобы наладить отношения с неродным ребенком «Ты мне не отец!»: что важно знать отчиму, чтобы наладить отношения с неродным ребенком

Как выстроить дружеские и доверительные отношения с пасынком или падчерицей?

Psychologies
Археологи описали три каменные стелы из скифской «Долины царей» Археологи описали три каменные стелы из скифской «Долины царей»

Археологи описали находки, сделанные во время раскопок кургана Туннуг-1

N+1
Самый энергичный свет Самый энергичный свет

История открытия и некоторые факты о гамма-лучах

Наука и жизнь
Когда появятся реактивные истребители шестого поколения Когда появятся реактивные истребители шестого поколения

Чем живет и дышит современная воздушная техника?

Maxim
Код: элегантность Код: элегантность

Интерьер в стиле рафинированного софт-минимализма

SALON-Interior
О чем не говорят мужчины: 3 самых популярных запроса к психологам О чем не говорят мужчины: 3 самых популярных запроса к психологам

Чем же делятся мужчины с терапевтами?

Psychologies
Как узнать где летит самолет — следим за рейсом с помощью смартфона или компьютера Как узнать где летит самолет — следим за рейсом с помощью смартфона или компьютера

Следить за движением любого самолета в мире не сложнее, чем за доставщиком пиццы

CHIP
ИИ обучился футбольной тактике на игре «Ливерпуля», и готов консультировать тренеров ИИ обучился футбольной тактике на игре «Ливерпуля», и готов консультировать тренеров

ИИ-модель TacticAI, разработанная командой Google DeepMind, обучилась футболу

ТехИнсайдер
Вредно ли есть белый хлеб: что думаю ученые и врачи Вредно ли есть белый хлеб: что думаю ученые и врачи

Белый хлеб часто называют «одним из самых вредных для здоровья углеводов»

ТехИнсайдер
Как проверить уровень масла в мотоблоке — в двигателе и редукторе Как проверить уровень масла в мотоблоке — в двигателе и редукторе

Как следить состоянием технических жидкостей в двигателе и редукторе мотоблока

CHIP
Делай как я: сооснователь Haraba о внутреннем скряге и накоплениях как игре Делай как я: сооснователь Haraba о внутреннем скряге и накоплениях как игре

«Делай как я»: сооснователь агрегатора объявлений продажи автомобилей с пробегом

Forbes
«Не держите сцепление выжатым, убьете»: это правда или миф «Не держите сцепление выжатым, убьете»: это правда или миф

«Не держите сцепление выжатым!» Мы имеем дело с очередной страшилкой

ТехИнсайдер
5 добрых фильмов про собак 5 добрых фильмов про собак

Лучшие экранизации про братьев наших меньших.

Maxim
Не только для уборки: как использовать соду для стирки и почему стоит это сделать Не только для уборки: как использовать соду для стирки и почему стоит это сделать

С какими проблемами в стирке справится сода?

VOICE
Открыть в приложении