Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

8 продуктов, которые помогут снизить риск инсульта 8 продуктов, которые помогут снизить риск инсульта

Если есть эти продукты регулярно, можно снизить риск инсульта на 27%!

Популярная механика
Зачем уголь Черной Бороде? Раскрыт секрет затонувшего корабля самого известного английского пирата Зачем уголь Черной Бороде? Раскрыт секрет затонувшего корабля самого известного английского пирата

На судне Эдварда Тича нашли уголь, хотя тогда его не использовали как топливо

Вокруг света
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Проговаривайте вслух и играйте в ассоциации: 5 эффективных способов запомнить все — научные рекомендации Проговаривайте вслух и играйте в ассоциации: 5 эффективных способов запомнить все — научные рекомендации

Какие техники помогут запомнить все?

Psychologies
Смотримся в черное зеркало: как нейросети уже используются в моде и что будет дальше Смотримся в черное зеркало: как нейросети уже используются в моде и что будет дальше

Заменят ли нейросети дизайнеров, стилистов и фотографов?

Правила жизни
Не выкидывай: как фудшеринг в России помогает кормить бездомных и малоимущих Не выкидывай: как фудшеринг в России помогает кормить бездомных и малоимущих

Как работает фудшеринг в России и почему это может быть очень выгодно?

Forbes
«Мужчины боятся сильных женщин»: 4 контраргумента — узнайте плюсы таких отношений «Мужчины боятся сильных женщин»: 4 контраргумента — узнайте плюсы таких отношений

Многие считают, что сильные женщины несчастны в личной жизни

Psychologies
Несчастный брак: есть ли выход, кроме развода? 3 пути Несчастный брак: есть ли выход, кроме развода? 3 пути

Можно ли сохранить себя и стать счастливыми, оставаясь в несчастливом браке?

Psychologies
Как модники полюбили «некрасивые» беговые кроссовки — и на какие бренды обратить внимание Как модники полюбили «некрасивые» беговые кроссовки — и на какие бренды обратить внимание

Как утилитарные спортивные модели стали актуальными не только на беговом треке?

Правила жизни
Озабоченные жуки и сбежавшая грудь: 10 комедийных шоу, которые были созданы женщинами Озабоченные жуки и сбежавшая грудь: 10 комедийных шоу, которые были созданы женщинами

Комедийные сериалы, созданные женщинами и поднимающие серьезные вопросы

Forbes
Это сформировало XXI век! Интересные факты о кинофраншизе «Матрица» Это сформировало XXI век! Интересные факты о кинофраншизе «Матрица»

«Матрица» все еще продолжает оказывать влияние на всех киноделов планеты

ТехИнсайдер
Стоп-кран для старения мозга: названа популярная добавка, которая защитит от деменции Стоп-кран для старения мозга: названа популярная добавка, которая защитит от деменции

Витамины и продукты с этим элементом обладают нейропротекторным эффектом

Вокруг света
«Я 12 дней летал так, как обычно летают во сне»: Клим Шипенко — о съемках фильма в космосе «Я 12 дней летал так, как обычно летают во сне»: Клим Шипенко — о съемках фильма в космосе

Режиссер Клим Шипенко — об особенностях жизни на космической станции

Psychologies
Спортсменка с артритом: как Маи Михара стала звездой фигурного катания Спортсменка с артритом: как Маи Михара стала звездой фигурного катания

У Михары ревматоидный артрит, но она не планирует завершать спортивную карьеру

Forbes
12 блокбастеров, где тайно или явно замешаны библейские мотивы 12 блокбастеров, где тайно или явно замешаны библейские мотивы

12 христианских фильмов не таких, как все

Maxim
Русский стиль эпохи глобализма Русский стиль эпохи глобализма

Василий Слонов: смеховая культура художественной речи

Weekend
Физики создали в лаборатории черную дыру, которая немедленно начала расти Физики создали в лаборатории черную дыру, которая немедленно начала расти

Синтетический аналог черной дыры может рассказать нам кое-что

ТехИнсайдер
Ито Огава, «Канцтовары Цубаки» — отрывок из романа в переводе Дмитрия Коваленина Ито Огава, «Канцтовары Цубаки» — отрывок из романа в переводе Дмитрия Коваленина

Отрывок из книги, «Канцтовары Цубаки» в переводе Дмитрия Коваленина

СНОБ
«Мест для педагогов уже мало»: как живут и работают российские учителя за границей «Мест для педагогов уже мало»: как живут и работают российские учителя за границей

Педагоги и директоры школ о том, как устроена их жизнь за границей

Forbes
Волосы на заколках: 7 вещей, которые нужно знать о безвредной альтернативе наращиванию Волосы на заколках: 7 вещей, которые нужно знать о безвредной альтернативе наращиванию

Для чего нужны волосы на заколках и кому они подойдут?

VOICE
Только не гугли: чем опасна самодиагностика по статьям из Интернета? Только не гугли: чем опасна самодиагностика по статьям из Интернета?

Почему не стоит увлекаться самодиагностикой?

Здоровье
ИИ как платформа: какие перспективы уже показала технология машинного обучения ИИ как платформа: какие перспективы уже показала технология машинного обучения

Почему машинное обучение взбудоражило мировую общественность?

Forbes
Гибридный двигатель высшей школы Гибридный двигатель высшей школы

Традиционному университету придется усиленно заниматься онлайн-образованием

Наука
Увольнение в никуда или нелюбимая работа: как сделать правильный выбор Увольнение в никуда или нелюбимая работа: как сделать правильный выбор

О том, как грамотно принимать решение об увольнении и в чем искать опору

Psychologies
Границы конфиденциальности: что и кому может рассказать о вас психолог? Границы конфиденциальности: что и кому может рассказать о вас психолог?

Не нарушают ли рассказы о случаях из психотерапии границы конфиденциальности?

Psychologies
Советы от 100-летнего доктора, чтобы оставаться счастливым. Стоит узнать! Советы от 100-летнего доктора, чтобы оставаться счастливым. Стоит узнать!

Что нужно для счастливой и здоровой жизни?

ТехИнсайдер
Солнце в банке Солнце в банке

Как выбрать ту, которую по праву можно назвать «царицей полей»?

Лиза
Милая история! Орел напрасно высиживал камень, поэтому люди втайне подкинули ему птенца-сироту Милая история! Орел напрасно высиживал камень, поэтому люди втайне подкинули ему птенца-сироту

Даже в природе есть примеры того, что семья не всегда подразумевает кровные узы

ТехИнсайдер
Японский посадочный модуль ispace потерпел крушение при посадке на Луну Японский посадочный модуль ispace потерпел крушение при посадке на Луну

Во время сближения с Луной у посадочного модуля ispace закончилось топливо

ТехИнсайдер
Грубиян, выйди вон: 5 вещей, за которые давно пора начать удалять из коллективных чатов Грубиян, выйди вон: 5 вещей, за которые давно пора начать удалять из коллективных чатов

Эти вещи убивают атмосферу группового онлайн-общения

VOICE
Открыть в приложении