Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

5 овощей с самым высоким содержанием питательных веществ (научно доказано) 5 овощей с самым высоким содержанием питательных веществ (научно доказано)

Овощи с высоким содержанием питательных веществ

Inc.
Универсальный бизнес-язык: зачем заниматься ESG в новых реалиях Универсальный бизнес-язык: зачем заниматься ESG в новых реалиях

Почему российский бизнес пересматривает свои позиции по ESG-повестке

Inc.
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Как понять, что твой метаболизм замедлился: эти признаки должна знать каждая женщина 40+ Как понять, что твой метаболизм замедлился: эти признаки должна знать каждая женщина 40+

В каком возрасте метаболизм начинает меняться? Почему это происходит?

VOICE
Генетики прочитали ДНК названного в честь гнома из «Хоббита» неандертальца Генетики прочитали ДНК названного в честь гнома из «Хоббита» неандертальца

Ученые исследовали крупнейшую с 1979 года находку неандертальских останков

N+1
Принимай каждый день Принимай каждый день

Отношения со своим «я» – как ни крути, самые важные в жизни

VOICE
Спортивный интерес Спортивный интерес

Как банки улучшают привилегии для своих премиальных клиентов

Деньги
Потерянная энергия: почему мы теряем силы и что поможет их восстановить Потерянная энергия: почему мы теряем силы и что поможет их восстановить

Ты замечала, как днем становится все труднее сосредоточиться?

VOICE
«Зевнуть, вздохнуть и хорошенько потянуться»: как просыпаться с удовольствием — 7 полезных приемов «Зевнуть, вздохнуть и хорошенько потянуться»: как просыпаться с удовольствием — 7 полезных приемов

Как избавиться от утренней обреченности?

Psychologies
Кто такие инфоцыгане и за что задержали Елену Блиновскую? Кто такие инфоцыгане и за что задержали Елену Блиновскую?

Кто такие инфоцыгане и почему вдруг к ним постучался следственный коммитет

Правила жизни
Это нейробаза Это нейробаза

Кратко объясняем ключевые термины из области ИИ

N+1
Чем полезна корица и поможет ли она при похудении Чем полезна корица и поможет ли она при похудении

Разбираемся, в чем польза корицы

РБК
Выходить ли мне замуж за этого парня: может ли хорарная астрология предсказать будущее? Выходить ли мне замуж за этого парня: может ли хорарная астрология предсказать будущее?

О том, как звезды могут помочь принять правильное решение

VOICE
«Я хочу того, на что есть право у каждого человека»: каково это — быть аутистом «Я хочу того, на что есть право у каждого человека»: каково это — быть аутистом

Отрывок из книги «Искатели закономерностей» об аутизме

Psychologies
Уйти нельзя простить: что делать, когда узнаешь об измене партнера Уйти нельзя простить: что делать, когда узнаешь об измене партнера

Какие действия предпринять? Стоит ли оставаться, если любимый изменил?

Psychologies
Почему мы не отдыхаем и как делать это правильно: чек-лист от психолога Почему мы не отдыхаем и как делать это правильно: чек-лист от психолога

Почему мы так склонны отказывать себе в отдыхе?

Psychologies
Личинки жуков поели динозавровых перьев 100 миллионов лет назад Личинки жуков поели динозавровых перьев 100 миллионов лет назад

В гнездах некоторых динозавров-теропод жили личинки жуков

N+1
Как спорт поможет вам справиться со стрессом? Стоит узнать! Как спорт поможет вам справиться со стрессом? Стоит узнать!

Для поддержки своего здоровья стоит обратиться не только к врачу, но и к тренеру

ТехИнсайдер
Капитан, капитан, улыбнитесь! Капитан, капитан, улыбнитесь!

Встали не с той ноги? Улыбнитесь, и всё наладится!

Здоровье
Как почистить кофемашину любого типа натуральными средствами? Кофе станет в разы вкуснее! Как почистить кофемашину любого типа натуральными средствами? Кофе станет в разы вкуснее!

Качество кофе из кофемашины напрямую зависит от ее чистоты!

ТехИнсайдер
Древнейший житель Пуэрто-Рико с прямой радиоуглеродной датировкой умер более 3500 лет назад Древнейший житель Пуэрто-Рико с прямой радиоуглеродной датировкой умер более 3500 лет назад

Ученые исследовали пять доисторических захоронений с острова Пуэрто-Рико

N+1
Магия цифр: как скручивают пробег автомобиля и как узнать реальные цифры Магия цифр: как скручивают пробег автомобиля и как узнать реальные цифры

Как понять, что у подержанного автомобиля скорректированы показания одометра

CHIP
Как сделать тренировки действительно полезными? Простые советы экспертов Как сделать тренировки действительно полезными? Простые советы экспертов

Ключевые факторы для людей, поддерживающих свою физическую форму

ТехИнсайдер
Церковь «Благие вести»: как 73 человека по приказу пастора уморили себя голодом, чтобы «встретиться с Иисусом» Церковь «Благие вести»: как 73 человека по приказу пастора уморили себя голодом, чтобы «встретиться с Иисусом»

73 человека ушли из жизни в Кении по приказу пастора Пола Макензи Нтенге

VOICE
Секрет пашота: как яйцо бенедикт стало одним из самых популярных блюд в мире Секрет пашота: как яйцо бенедикт стало одним из самых популярных блюд в мире

Разбираемся в феномене яйца бенедикт

Forbes
Это простуда или аллергия? Как отличить симптомы двух заболеваний Это простуда или аллергия? Как отличить симптомы двух заболеваний

Главные отличия аллергической реакции организма от простудной

ТехИнсайдер
Лазерное шоу для рапса Лазерное шоу для рапса

Дроны с красным светом активизируют фотосинтез у культурных растений

Наука
«Че ты такой серьезный?»: как одевали разных Джокеров в кино «Че ты такой серьезный?»: как одевали разных Джокеров в кино

Вспоминаем воплощения Джокера на экране: как создавались его яркие костюмы

Правила жизни
«От Ба»: как построить бизнес, помогая пенсионерам из деревни «От Ба»: как построить бизнес, помогая пенсионерам из деревни

Как работает проект по поддержке творческих пенсионеров «От Ба» Дарьи Ледневой

Forbes
Рабочие способы, которые помогут быстро сбить температуру без лекарств Рабочие способы, которые помогут быстро сбить температуру без лекарств

Что делать, если терпеть температуру уже невмоготу, а лекарств под рукой нет?

ТехИнсайдер
Открыть в приложении