Отрывок из книги «Скайнет в эпоху киберпанка»

ForbesHi-Tech

Скайнет в эпоху киберпанка: книга о сверхразуме, написанная в соавторстве с ИИ

Редакция Forbes Life

Кадр из фильма "Терминатор: Да Придёт Спаситель"

Количество разума во Вселенной удваивается каждые 18 месяцев, что означает, что нейросети и модели LLM становятся все более мощными и масштабируемыми, говорится в книге кофаундеров Web-3 платформы Bithoven Антона Платунова и Андрея Глебова «Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке». Соавтором книги, вышедшей в мае на Литрес, стал искусственный интеллект языковой модели GPT-4. Он создавал диалоги и участвовал в формировании сюжетной линии. Forbes Life публикует отрывок из произведения.

Глава 9. Тайны технологии LLM: Теория зарождения сверхразума

Теория разума (ToM), или способность приписывать ненаблюдаемые психические состояния другим, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали. Мы применяем классические задачи на ложные убеждения, широко используемые для тестирования ToM на людях, для нескольких языковых моделей без каких-либо примеров или предварительного обучения. Наши результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи ToM. Тем не менее, версия GPT-3 (davinci-002) от января 2022 года решила 70 % задач ToM, что сопоставимо с показателями семилетних детей. Более того, его версия от ноября 2022 года (davinci-003) решила 93 % задач ToM, что сопоставимо с показателями девятилетних детей.

Скорость внедрения и развития ИИ на самых разных уровнях просто поражает. Только недавно вышла модель GPT-4, обученная на 500 миллиардах параметров, по сравнению со 175 миллиардами параметров у GPT-3, как уже говорят о выходе новой модели GPT-5, опрометчиво заявляя о том, что эта модель достигнет уровня AGI.

AGI (artificial general intelligence) – это концепция «общего искусственного интеллекта», называемого также «сильным ИИ», которая относится к способности ИИ понимать и изучать любую задачу или идею, которые могут обдумать и осознать люди. Другими словами, ИИ, достигший ОИИ, может быть неотличим от человека по своим интеллектуальным возможностям. Это делает подобные заявления довольно опасными, учитывая все возможности, которые может предоставить AGI. В позитивном смысле это может значительно повысить производительность различных процессов с поддержкой ИИ, ускорив работу людей и избавив от монотонной рутинной и утомительной работы. В то же время наделение ИИ такой мощью может иметь непредвиденные последствия, о которых люди просто еще не подумали и не осознали. Это не означает, что апокалипсис роботов неизбежен, но, безусловно, вызывает много вопросов о том, какими могут быть негативные последствия ОИИ.

Это приводит к осознанию необходимости более глубокого изучения подобных систем ИИ и исследований. Ведь наш разум будет просто не способен осознать мышление AGI, как муравью не понять ход мыслей и мышление человека. Если заглянуть на открытый отчет исследований GPT-4 от Microsoft, то процесс зарождения AGI становится очевидным: «GPT-4 поразительно близка к производительности на уровне человека и часто значительно превосходит предыдущие модели, такие как ChatGPT. Учитывая широту и глубину возможностейGPT-4, мы считаем, что его можно разумно рассматривать как раннюю (но все еще неполную) версию системы общего искусственного интеллекта (AGI). В нашем исследовании GPT-4 мы уделяем особое внимание выявлению его ограничений и обсуждаем предстоящие проблемы, связанные с продвижением к более глубоким и всесторонним версиям ОИИ, включая возможную потребность в следовании новой парадигме, которая выходит за рамки предсказания следующего слова», – сказано в открытом отчете Microsoft.

То есть уже сейчас не предполагаются, а опытно фиксируются зачатки разума общего искусственного интеллекта. Человеку трудно и даже невозможно представить на что будет способна GPT-5. «Новая версия закона Мура, которая может начать действовать в ближайшее время: количество разума во Вселенной удваивается каждые 18 месяцев», – высказывание, данное Сэмом Альтманом (гендиром компании OpenAI, создавшей ChatGPT) для последствий происходящей революции, символом которой стал ChatGPT.

А теперь давайте разберемся с основами нейросетей. Нейронные сети – это модели машинного обучения, которые вдохновлены биологическими нейронными сетями. Они состоят из слоев, каждый из которых содержит узлы, называемые нейронами. Нейроны внутри одного слоя связаны с нейронами следующего слоя, и каждая связь имеет свою значимость и приоритет. В процессе обучения нейросети, зависимости значимостей и приоритеты изменяются для минимизации ошибки предсказания контекста. Теперь перейдем к моделям LLM (Large Language Models) и их связи с законом Мура. Закон Мура был сформулирован в 1965 году и утверждал, что количество транзисторов на интегральной схеме будет удваиваться примерно каждые два года. Новая версия закона Мура, о которой заявил основатель Open AI, говорит о том, что количество разума во Вселенной удваивается каждые 18 месяцев. Это утверждение относится к экспоненциальному росту производительности и масштабирования алгоритмов машинного обучения, в частности, к моделям LLM. Модели LLM, такие как GPT-4, тренируются на огромных объемах текстовых данных. Они учатся предсказывать следующее слово в последовательности на основе контекста, что позволяет им генерировать связные и осмысленные тексты. Обучение и масштабирование моделей LLM требует больших вычислительных ресурсов и разработки продвинутых алгоритмов оптимизации.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Точка бифуркации: как еще могло закончиться Ледовое побоище Точка бифуркации: как еще могло закончиться Ледовое побоище

Каким был бы мир, если бы Александр Невский проиграл Ледовое побоище?

Вокруг света
Генералы песчаных карьеров Генералы песчаных карьеров

Шагающие экскаваторы, или драглайны, – самые большие мобильные наземные машины

ТехИнсайдер
Одними из первых людей в Америке были... китайцы? Удивительное открытие! Одними из первых людей в Америке были... китайцы? Удивительное открытие!

Среди первых людей в Америке были выходцы из нынешнего Китая

ТехИнсайдер
Штаны из тента для палатки: как джинсы за 150 лет превратились из спецовки в самую популярную одежду в мире Штаны из тента для палатки: как джинсы за 150 лет превратились из спецовки в самую популярную одежду в мире

История брюк, без которых невозможно представить современный гардероб

Вокруг света
Генетики обнаружили древнейших зараженных чумой в Британии Генетики обнаружили древнейших зараженных чумой в Британии

ДНК бактерий нашли в зубах трех человек, живших около четырех тысяч лет назад

N+1
Как гражданину России разблокировать активы в Credit Suisse Как гражданину России разблокировать активы в Credit Suisse

На этапе нашей работы с банком Credit Suisse мы выбрали стратегию защиты клиента

Forbes
«Все страхи Бо»: как видит мир тревожный человек, воспитанный нарциссической матерью «Все страхи Бо»: как видит мир тревожный человек, воспитанный нарциссической матерью

Добро пожаловать в мир Бо!

Psychologies
Когда можно сесть за руль после алкоголя: сколько промилле разрешено Когда можно сесть за руль после алкоголя: сколько промилле разрешено

Как определить, когда после застолья можно садиться за руль?

РБК
Они дома: почему спортсмены не спешат уходить из ЦСКА ради Олимпиады Они дома: почему спортсмены не спешат уходить из ЦСКА ради Олимпиады

Почему атлеты самовольно отказываются от международной карьеры

Forbes
Режиссер Александр Сокуров —  Forbes: «Режимное государство нуждается в гениях» Режиссер Александр Сокуров —  Forbes: «Режимное государство нуждается в гениях»

Какую задачу решают власти, устраивая массовые гонения на деятелей культуры?

Forbes
«Я забыла, что была беременна»: люди, впадавшие в кому, рассказали, что было, когда они очнулись «Я забыла, что была беременна»: люди, впадавшие в кому, рассказали, что было, когда они очнулись

Люди, впадавшие в кому, рассказали, как они очнулись — и как изменились

VOICE
Джейн Фонда. В ожидании смысла Джейн Фонда. В ожидании смысла

Большую часть жизни я искала путь домой... к обретению себя

Караван историй
Опасный перекресток Опасный перекресток

Перекрестная аллергия: что это такое и как её избежать?

Лиза
Ликвидный стекинг: как устроена схема для зарабатывания фантомных денег Ликвидный стекинг: как устроена схема для зарабатывания фантомных денег

Что такое стекинг и чем эти токены необычны?

Forbes
«Убийцы цветочной луны»: Мартин Скорсезе на стороне индейцев и против капитализма «Убийцы цветочной луны»: Мартин Скорсезе на стороне индейцев и против капитализма

Мастер смешивает в истории индейцев вестерн, детектив, триллер и романтику

Forbes
Как Южная Корея ищет баланс между Китаем, Россией и США Как Южная Корея ищет баланс между Китаем, Россией и США

Как Южная Корея пытается сохранить хорошие отношения со всеми странами

Forbes
«Дипломатка»: история о женщине, которая способна решать мировые кризисы «Дипломатка»: история о женщине, которая способна решать мировые кризисы

Что делает историю о дипломатических интригах в лондонских кабинетах интересной

Forbes
Где берут энергию бактерии подледных озер Антарктиды Где берут энергию бактерии подледных озер Антарктиды

Как в условиях Антарктиды работает углеродный цикл?

ТехИнсайдер
PCM-методика в психологии: что это и с чем ее едят? PCM-методика в психологии: что это и с чем ее едят?

РСМ-методика: как она была разработана и испытана? Где применяется?

Psychologies
Толщина женской коры мозга оказалась меньше мужской в странах с гендерным неравенством Толщина женской коры мозга оказалась меньше мужской в странах с гендерным неравенством

Как гендерное неравенство сказывается на человеческом мозге?

N+1
«Я российский художник и горжусь этим». Чем известен Валентин Юдашкин «Я российский художник и горжусь этим». Чем известен Валентин Юдашкин

Чем запомнился модельер Валентин Юдашкин?

СНОБ
ИИ может расшифровать, что слышит и видит мозг, и превратить в поток текста ИИ может расшифровать, что слышит и видит мозг, и превратить в поток текста

Ученые разработали систему ИИ, которую они назвали «семантическим декодером»

ТехИнсайдер
«Чувствовала себя не в своей тарелке»: звезда сериала «Клуб» Катя Кабак призналась, почему вернулась из Лондона в Москву «Чувствовала себя не в своей тарелке»: звезда сериала «Клуб» Катя Кабак призналась, почему вернулась из Лондона в Москву

Катя Кабак поняла, что жизнь в стране с другим менталитетом ей не подходит

VOICE
Николай Коляда: «Слава богу, зрители не знают о нашей театральной кухне ничего» Николай Коляда: «Слава богу, зрители не знают о нашей театральной кухне ничего»

Николай Коляда о Галине Волчек и «Современнике»

Коллекция. Караван историй
Жужжащие в темноте: 7 фактов о комарах, которые вас удивят Жужжащие в темноте: 7 фактов о комарах, которые вас удивят

Как можно обмануть кровососов при помощи сыра?

Вокруг света
Мама, я создал! Ученые построили машину из Lego, чтобы выращивать человеческую кожу Мама, я создал! Ученые построили машину из Lego, чтобы выращивать человеческую кожу

Изобретение из Lego в десятки раз дешевле, чем современные биопринтеры

Вокруг света
Жесткие против гибких Жесткие против гибких

Sunreef запатентовала технологию интеграции гибких панелей в композитный корпус

Y Magazine
Акулы-молоты задержали дыхание ради сохранения тепла на глубине Акулы-молоты задержали дыхание ради сохранения тепла на глубине

Акулы-молоты закрыли жаберные щели, чтобы тепло не уходило через жабры

N+1
Кто такие инцелы и где они обитают? Читаем фрагмент новой книги Стефана Краковски Кто такие инцелы и где они обитают? Читаем фрагмент новой книги Стефана Краковски

Отрывок из книги «Инцелы. Как девственники становятся террористами»

Правила жизни
Как распознать манипуляции со стороны партнера и остановить их Как распознать манипуляции со стороны партнера и остановить их

Что делать, если вы столкнулись с манипуляцией со стороны партнера?

Psychologies
Открыть в приложении