Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Клубника и не только: топ-5 самых полезных ягод Клубника и не только: топ-5 самых полезных ягод

Мир ягод богат и многообразен, они могут удивить своими свойствами

Psychologies
История самого русского напитка: как в Российской империи появилась водка История самого русского напитка: как в Российской империи появилась водка

В дореволюционной России водка была атрибутом успешной жизни

ТехИнсайдер
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Jeep Compass. Жизнь в стиле Grand Cherokee Jeep Compass. Жизнь в стиле Grand Cherokee

Jeep Compass, чтобы плыть дальше, чистит себя под Jeep Grand Cherokee

4x4 Club
Как искусственный интеллект меняет будущее медицины Как искусственный интеллект меняет будущее медицины

Какие технологии ИИ уже сейчас применяются в медицине и помогают избежать ошибок

Forbes
«Нет никакого развития»: в чем особенности зависимых отношений — 3 компонента «Нет никакого развития»: в чем особенности зависимых отношений — 3 компонента

Что отличает зависимые отношения и можно ли превратить их в здоровые?

Psychologies
Спортивный комплекс: 5 несносных типов мужчин-спортсменов Спортивный комплекс: 5 несносных типов мужчин-спортсменов

Пять типов спортивный парней, от которых стоит держаться подальше

VOICE
Что есть, чтобы похудеть Что есть, чтобы похудеть

Как стоит питаться, чтобы тренировки приносили наибольший эффект фигуре

Лиза
«Ревность усиливает желание»: правда ли это — размышления психоаналитика «Ревность усиливает желание»: правда ли это — размышления психоаналитика

Может ли ревность оживить отношения?

Psychologies
Сокровищницы адмирала Чжэн Хэ: как китайские мореплаватели открыли миру Поднебесную Сокровищницы адмирала Чжэн Хэ: как китайские мореплаватели открыли миру Поднебесную

В отличие от европейцев, китайцы не проявляли интереса к морским путешествиям

Вокруг света
Как выбрать сковороду и почему готовить всё только на одной посуде — плохая идея Как выбрать сковороду и почему готовить всё только на одной посуде — плохая идея

Ориентируясь на эти подсказки, вы сможете выбрать идеальную сковородку

ТехИнсайдер
10 абсурдистских фильмов эпохи перестройки 10 абсурдистских фильмов эпохи перестройки

Крах исторических нарративов влечет за собой крах большого нарратива в искусстве

Weekend
«Карело-финские мифы» «Карело-финские мифы»

От «Калевалы» и птицы-демиурга до чуди и саамов

N+1
Двойной агент Двойной агент

Комбинированные оральные контрацептивы имеют массу неочевидных преимуществ

Grazia
Как подковы помогают лошадям, и почему коровы обходятся без них Как подковы помогают лошадям, и почему коровы обходятся без них

Зачем лошадям подковы, если в дикой природе они нормально живут без них?

ТехИнсайдер
Магические тысячи Магические тысячи

Для здоровья человека важно не только количество шагов, но и качество ходьбы

Лиза
Медленно, но верно Медленно, но верно

Что такое slow cooking и какие блюда можно готовить не спеша?

Лиза
Правила жизни Эдди Мерфи Правила жизни Эдди Мерфи

Правила жизни актера и стендап-комика Эдди Мерфи

Правила жизни
В 64 миллиона раз нейробиологи увеличили разрешение МРТ-снимков мозга В 64 миллиона раз нейробиологи увеличили разрешение МРТ-снимков мозга

Нейробиологи радикально повысили разрешение МРТ

ТехИнсайдер
10 неожиданных фактов о китайском пиве 10 неожиданных фактов о китайском пиве

Варить пиво в Китае начали не так давно, но делают это очень интересно

Maxim
Странная привычка из прошлого: правда ли, что средневековые люди спали сидя? Странная привычка из прошлого: правда ли, что средневековые люди спали сидя?

Что такое "вертикальный сон" и практиковался ли он людьми из Средних веков?

ТехИнсайдер
Вдова бургомистра и комиссар поневоле: первые женщины, управлявшие городами Вдова бургомистра и комиссар поневоле: первые женщины, управлявшие городами

Они доказали, что женщины могут справиться и с управлением целым городом

Forbes
Что делать, если джинсы постоянно протираются: советы, как продлить жизнь любимой вещи Что делать, если джинсы постоянно протираются: советы, как продлить жизнь любимой вещи

Мы знаем, как сэкономить ваши деньги и продлить срок службы любимых джинсов

ТехИнсайдер
В 90 лет снова жених: бурная личная жизнь Бедроса Киркорова В 90 лет снова жених: бурная личная жизнь Бедроса Киркорова

История браков Бедроса Киркорова

VOICE
Семь невероятных пивных состязаний: даже не пытайся это повторить! Семь невероятных пивных состязаний: даже не пытайся это повторить!

Были бы фантазия и пиво, а соревнования придумаются сами собой!

Maxim
Что сделать, чтобы муж перестал пить? Как психолог отвечает на такой запрос Что сделать, чтобы муж перестал пить? Как психолог отвечает на такой запрос

Иногда запрос — только вершина айсберга, под которым скрывается семейная история

Psychologies
«Зевнуть, вздохнуть и хорошенько потянуться»: как просыпаться с удовольствием — 7 полезных приемов «Зевнуть, вздохнуть и хорошенько потянуться»: как просыпаться с удовольствием — 7 полезных приемов

Как избавиться от утренней обреченности?

Psychologies
Дэниел Мейсон: «Настройщик» — отрывок истории одного странствия Дэниел Мейсон: «Настройщик» — отрывок истории одного странствия

Отрывок из затягивающей и таинственной истории странствия «Настройщик»

СНОБ
Роборука с камерами в пальцах научилась распознавать предметы наощупь Роборука с камерами в пальцах научилась распознавать предметы наощупь

Манипулятор научили определять предметы на ощупь

N+1
«Во всем ищу позитивные стороны!» «Во всем ищу позитивные стороны!»

Владимир Жеребцов — о том, почему девушки охотно ведутся на всяких проходимцев

OK!
Открыть в приложении