Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Могила неизвестного Павлика Могила неизвестного Павлика

История Павлика Морозова

Дилетант
Искусство общения Искусство общения

Как избежать конфликтных ситуаций и найти компромиссные решения

Лиза
Исторические отели, в которых годами жили известные личности Исторические отели, в которых годами жили известные личности

Некоторые из отелей стали не просто пристанищем, а настоящим домом для звезд

ТехИнсайдер
«Внутри семьи Толстых культа Льва Толстого нет» «Внутри семьи Толстых культа Льва Толстого нет»

Владимир Толстой: каково осознавать себя потомком Льва Николаевича

Правила жизни
Французский аристократ описал процесс эволюции за 100 лет до Дарвина Французский аристократ описал процесс эволюции за 100 лет до Дарвина

Удивительный ученый, который предвосхитил теорию эволюции Дарвина на сто лет

ТехИнсайдер
Городские хроники Городские хроники

Куда отправиться, чтобы увидеть лучшие образцы современной настенной живописи?

Вокруг света
Человек играющий, или страницы древней истории спорта Человек играющий, или страницы древней истории спорта

Спорт был всегда частью культурной жизни человечества

Зеркало Мира
Как выбрать профессию подростку, чтобы он стал счастливым взрослым Как выбрать профессию подростку, чтобы он стал счастливым взрослым

Как выстроить карьерную траекторию, чтобы помочь ребенку стать успешным

РБК
10 простых советов, которые помогут снова полюбить свою жизнь 10 простых советов, которые помогут снова полюбить свою жизнь

Советы, которые помогут снова почувствовать радость жизни

Psychologies
Почему зрительный контакт вызывает у многих людей неловкое чувство Почему зрительный контакт вызывает у многих людей неловкое чувство

Замечали ли вы, что при разговоре стараетесь не смотреть собеседнику в глаза?

ТехИнсайдер
Где искать чувство собственного достоинства: путеводитель от психолога Где искать чувство собственного достоинства: путеводитель от психолога

Почему развивается склонность к перманентному чувству вины и критиканству

Psychologies
7 правил, которые помогут выжить, если вы заботитесь о пожилом нарциссе 7 правил, которые помогут выжить, если вы заботитесь о пожилом нарциссе

Ваш пожилой отец, мать, бабушка — нарцисс? Вам никогда не удастся ему угодить

Psychologies
Приложения для похудения: какое лучше, отзывы экспертов Приложения для похудения: какое лучше, отзывы экспертов

Как подсчитать калории и выбрать нужные упражнения с помощью смартфона

РБК
Сон о счастливой Москве: фильму «Я шагаю по Москве» — 60 лет Сон о счастливой Москве: фильму «Я шагаю по Москве» — 60 лет

Почему «Я шагаю по Москве» — главный фильм в судьбе Георгия Данелии

СНОБ
Топ-10 необычных и полезных приборов для кухни Топ-10 необычных и полезных приборов для кухни

Гаджеты, которые упрощают привычные бытовые дела на кухне

ТехИнсайдер
Лучшие сериалы, снятые по мотивам кинофильмов Лучшие сериалы, снятые по мотивам кинофильмов

Превращать любимый фильм в сериал — вовсе не современное изобретение

Maxim
Лучезарный Лучезарный

За прозвищем князя Александра Куракина стояло несметное богатство

Дилетант
Что такое движок Unreal Engine 5, и что он может? Что такое движок Unreal Engine 5, и что он может?

Все, что нужно знать про движок Unreal Engine 5

CHIP
Марс в искусстве. Истории о Красной планете в музыке, литературе и театре Марс в искусстве. Истории о Красной планете в музыке, литературе и театре

Как музыканты, писатели и режиссеры изображали Марс в своих работах

СНОБ
ИИ обучился футбольной тактике на игре «Ливерпуля», и готов консультировать тренеров ИИ обучился футбольной тактике на игре «Ливерпуля», и готов консультировать тренеров

ИИ-модель TacticAI, разработанная командой Google DeepMind, обучилась футболу

ТехИнсайдер
Астрономы отыскали девять редких двойных цефеид Астрономы отыскали девять редких двойных цефеид

Астрономы подтвердили открытие девяти двойных систем, где обе звезды — цефеиды

N+1
Соблазн свободы. Почему зрители любят роуд-муви Соблазн свободы. Почему зрители любят роуд-муви

Чем путешествия отличаются от странствий и что роднит роуд-муви и вестерн?

СНОБ
Мне не страшно Мне не страшно

Почему нас пугает возраст и как этому можно противостоять

VOICE
В неделю нужно съедать 30 растительных продуктов: как этого добиться В неделю нужно съедать 30 растительных продуктов: как этого добиться

Как увеличить количество растительных продуктов в своем рационе?

ТехИнсайдер
Биг-Бен и девушки-пилоты: как в Сургуте появилась женская пилотажная группа Биг-Бен и девушки-пилоты: как в Сургуте появилась женская пилотажная группа

Как Евгений Барсов создал единственную в стране пилотажную группу из девушек

Forbes
Как продлить свежесть педикюра после салона: 5 золотых правил для гладких пяток и безупречного покрытия Как продлить свежесть педикюра после салона: 5 золотых правил для гладких пяток и безупречного покрытия

Как ухаживать за стопами и свежим педикюром?

VOICE
Плоский мир: обещает ли двумерное золото технологическую революцию Плоский мир: обещает ли двумерное золото технологическую революцию

Какие технологические достижения могут принести сверхтонкие слои золота

Forbes
Верх совершенства Верх совершенства

Можно ли отрастить волосы быстро и как сделать их густыми?

VOICE
Самый энергичный свет Самый энергичный свет

История открытия и некоторые факты о гамма-лучах

Наука и жизнь
Японский сад, музей Барби и кладбище: гид по Краснодару Японский сад, музей Барби и кладбище: гид по Краснодару

Что смотреть в Краснодаре?

СНОБ
Открыть в приложении