Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Пора перестать стесняться секс-игрушек Пора перестать стесняться секс-игрушек

Секс-игрушки теперь выглядят так, что их не обязательно прятать в глубине ящика

GQ
Евгений Хапов. Мой первый электрический... Евгений Хапов. Мой первый электрический...

Мне впервые предложили покататься на полностью электрическом кроссовере

4x4 Club
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Восток-Запад: как относятся к женскому целомудрию в разных культурах Восток-Запад: как относятся к женскому целомудрию в разных культурах

Отрывок из книги «Брак по любви» Моники Али

Forbes
В 90 лет снова жених: бурная личная жизнь Бедроса Киркорова В 90 лет снова жених: бурная личная жизнь Бедроса Киркорова

История браков Бедроса Киркорова

VOICE
Как будто на айфон сняли: ученые получили самый подробный МРТ-снимок мозга Как будто на айфон сняли: ученые получили самый подробный МРТ-снимок мозга

Качество этого изображения в 27 тысяч раз лучше, чем у предыдущих снимков мозга

Вокруг света
Первое свидание: кто платит в ресторане — мнения мужчин и женщин Первое свидание: кто платит в ресторане — мнения мужчин и женщин

Момент, когда приносят счет в ресторане, несет в себе множество смыслов

Psychologies
Топ самых необычных российских вин Топ самых необычных российских вин

И в России есть вина, способные удивлять. В том числе и в хорошем смысле

Maxim
Топ-6 самых полезных бенчмарков для смартфона Топ-6 самых полезных бенчмарков для смартфона

Рассказываем о самых полезных бенчмарках с точки зрения простого пользователя

CHIP
Зоя Богуславская: «Портреты эпохи: Андрей Вознесенский, Владимир Высоцкий, Юрий Любимов...» Зоя Богуславская: «Портреты эпохи: Андрей Вознесенский, Владимир Высоцкий, Юрий Любимов...»

Фрагмент главы из книги «Портреты эпохи» Зои Богуславской

СНОБ
Под знаком вербы Под знаком вербы

Как по русскому обычаю нужно встретить вербное воскресенье?

Лиза
Это все про ЗОЖ. 7 трендов, которые помогут тебе сохранить красоту и молодость Это все про ЗОЖ. 7 трендов, которые помогут тебе сохранить красоту и молодость

Индустрия красоты и здоровья развивается стремительно и порой непредсказуемо

Лиза
Хит на все времена: 11 лучших ролей Хита Леджера Хит на все времена: 11 лучших ролей Хита Леджера

От хулигана Патрика до доктора Парнаса: лучшие роли Хита Леджера

Правила жизни
Домашняя магия: ритуалы, которые сделают тебя счастливее Домашняя магия: ритуалы, которые сделают тебя счастливее

Но что делать, если счастье в твоей жизни недостижимо?

VOICE
Неожиданно: бензопилы изначально были изобретены для оказания помощи при родах Неожиданно: бензопилы изначально были изобретены для оказания помощи при родах

Удивительно, но факт: в XVIII веке бензопилы использовались при родах

ТехИнсайдер
13 простых вещей, которые тихо крадут красоту: ты даже не замечаешь! 13 простых вещей, которые тихо крадут красоту: ты даже не замечаешь!

Эти с виду невинные привычки день за днем воруют твою красоту

VOICE
Как необычно и практично использовать влажные салфетки: 8 советов на каждый день Как необычно и практично использовать влажные салфетки: 8 советов на каждый день

У влажных салфеток гораздо больше полезных применений, чем очистка от грязи

ТехИнсайдер
«Страна гейш»: почему в западном обществе столько мифов про японских женщин «Страна гейш»: почему в западном обществе столько мифов про японских женщин

Как взглянуть на Японию без патриархальных стереотипов

Forbes
Не повернуть головы Не повернуть головы

Почему болит шея и как предотвратить появление этой боли?

Лиза
Я — Сноб: ресторатор Дмитрий Левицкий Я — Сноб: ресторатор Дмитрий Левицкий

Ресторатор Дмитрий Левицкий рассказал о блюде, без которого он не может жить

СНОБ
Здесь русский дух Здесь русский дух

В 2023 году Псков отмечает очередной юбилей — 1120-й день рождения

Лиза
Subaru Ascent. Набор высоты Subaru Ascent. Набор высоты

В нашей стране бренд Subaru считается производителем нишевых автомобилей

4x4 Club
Задача с тремя неизвестными: почему маленького мальчика зовут Дядя Федор, его сестру Вера Павловна, а папу — Дима? Задача с тремя неизвестными: почему маленького мальчика зовут Дядя Федор, его сестру Вера Павловна, а папу — Дима?

Эта история началась в пионерском лагере. Эдуард Успенский работал библиотекарем

ТехИнсайдер
Спортивный комплекс: 5 несносных типов мужчин-спортсменов Спортивный комплекс: 5 несносных типов мужчин-спортсменов

Пять типов спортивный парней, от которых стоит держаться подальше

VOICE
Погружение с первых страниц: 5 романов с увлекательным сюжетом, которые стоит прочесть Погружение с первых страниц: 5 романов с увлекательным сюжетом, которые стоит прочесть

Рассказываем о книгах, от которых трудно оторваться до самой последней страницы

ТехИнсайдер
«Скандал показал истинную сущность моих соперников»: Влад Череватый о закулисье шоу «Экстрасенсы. Битва сильнейших» «Скандал показал истинную сущность моих соперников»: Влад Череватый о закулисье шоу «Экстрасенсы. Битва сильнейших»

Интервью с экстрасенсом Владом Череватым

VOICE
Нелли Борисюк: «Я никогда не стремилась быть идеальной мамой» Нелли Борисюк: «Я никогда не стремилась быть идеальной мамой»

Нелли Борисюк - любящая жена и мама семерых детей

Караван историй
Очаровательные крохи с красивым голосом: 4 занимательных факта о пеночках Очаровательные крохи с красивым голосом: 4 занимательных факта о пеночках

Эти небольшие птички из обширного рода радуют нас своими песнями на природе

Вокруг света
Почему мы наказываем себя и как перестать это делать? Почему мы наказываем себя и как перестать это делать?

Всегда считаете себя виноватыми в любой ситуации?

Psychologies
Оазис впечатлений: чем способен удивить современный Ташкент Оазис впечатлений: чем способен удивить современный Ташкент

Что непременно стоит посмотреть в Ташкенте и где лучше остановиться

Forbes
Открыть в приложении