Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Заполнить униформу Заполнить униформу

Как армейские куртки стали инструментом борьбы с системой

Правила жизни
Дарья Златопольская: «Любовь — это улица с односторонним движением» Дарья Златопольская: «Любовь — это улица с односторонним движением»

Я работаю с детьми, очень за них переживаю и всегда пытаюсь включаться

Коллекция. Караван историй
Разгадка загадок Разгадка загадок

Исследование тонкостей отношений с искусственным интеллектом

Правила жизни
Фокусы престолов Фокусы престолов

«Зимний король»: артуровские легенды в формате «как оно было на самом деле»

Weekend
Год на Бабушкинской Год на Бабушкинской

Автофикшен-рассказ Ксении Буржской. Забавный, непринужденно-бытовой, уязвимый

Правила жизни
Часы Часы

В списке трендов — зелёные циферблаты, титан и спецэффекты

Robb Report
Чем богаты, тем и рады Чем богаты, тем и рады

Что мы хотим получить на самом деле, когда раскошеливаемся на люкс

VOICE
«Боль продолжается бесконечно»: как несчастная первая любовь влияет на дальнейшие отношения «Боль продолжается бесконечно»: как несчастная первая любовь влияет на дальнейшие отношения

Почему мы боимся впустить в жизнь нового человека?

Psychologies
Олег Кожемяко: «Приморье преодолело негативные последствия санкций» Олег Кожемяко: «Приморье преодолело негативные последствия санкций»

Приморский край играет ведущую роль в объявленном президентом курсе на Восток

ФедералПресс
Зачем России квантовые компьютеры: «Так добьемся техносуверенитета» Зачем России квантовые компьютеры: «Так добьемся техносуверенитета»

Вопросы развития технологического суверенитета сейчас стоят особенно остро

ФедералПресс
Перспективы туризма на Чукотке: маршруты, мифы и природа Перспективы туризма на Чукотке: маршруты, мифы и природа

Чукотка активно развивает сферу туризма и восстанавливает турпоток

ФедералПресс
Лариса Малькова: «Искусственный интеллект можно сравнить с энергией атома» Лариса Малькова: «Искусственный интеллект можно сравнить с энергией атома»

Где еще заявит о себе искусственный интеллект и как он повлияет на рынок труда

РБК
Шай Шай

Художник Шай Азулай — звучит как музыка, и мир вокруг него мелодичен

Seasons of life
Цифровые улики: как соцсети помогают находить активы и выигрывать суды Цифровые улики: как соцсети помогают находить активы и выигрывать суды

Как социальные сети могут использовать против владельца страницы

Forbes
«В нашей стране очень много молчащих регионов» «В нашей стране очень много молчащих регионов»

О «Бери да помни», первом фильме на татарском языке в широком прокате

Weekend
Демографические показатели северных территорий: с чего брать пример Демографические показатели северных территорий: с чего брать пример

Якутия является лидером на Дальнем Востоке по ожидаемой продолжительности жизни

ФедералПресс
Как добиться стройности без насилия над собой: 7 шагов Как добиться стройности без насилия над собой: 7 шагов

Что такое естественное похудение и как оно помогает получить желаемую фигуру?

Psychologies
Изобрели велосипед: как два брата из Ярославля покоряют водный мир Изобрели велосипед: как два брата из Ярославля покоряют водный мир

Почему братья Лукьяновы решили бросить вызов водной стихии

Forbes
Правила жизни атомщиков Правила жизни атомщиков

«Правила жизни» вспоминают волшебников от науки – четверых ученых

Правила жизни
Котик на батарейках Котик на батарейках

Откуда в китайском спортседане столько немецкого?

Автопилот
Будь готов! Будь готов!

Как сохранить грибы в морозилке

Лиза
«Влюбить в морские науки»: как работает «Плавучий университет» «Влюбить в морские науки»: как работает «Плавучий университет»

Как работает «Плавучий университет», что он дает участникам?

Наука
Арбузное настроение Арбузное настроение

5 небанальных рецептов из летней ягоды

Лиза
Стиль Стиль

Возвращение к тихой роскоши — дорогим материалам и бескомпромиссной элегантности

Robb Report
Пульт управления Пульт управления

Дефицит «качественной рабочей силы» зафиксирован в 55% российских компаний

FP. BusinessReview
Философы освещения. Кто придумал лампу накаливания Философы освещения. Кто придумал лампу накаливания

История Александра Лодыгина, изобретателя лампы накаливания

СНОБ
«Большинство и не хочет работать» «Большинство и не хочет работать»

Андрея Курпатова считают техноскептиком, но сейчас он работает над созданием ИИ

Правила жизни
Лесам выдают паспорта Лесам выдают паспорта

Неисчерпаемость лесных ресурсов России может быстро подойди к концу

Наука
Ольга Медынич: «Вампиры на самом деле обитают среди нас» Ольга Медынич: «Вампиры на самом деле обитают среди нас»

«Когда соглашалась на эту роль, даже не думала, с чем столкнусь»

Караван историй
Десять лет — Восток нормальный Десять лет — Восток нормальный

Как изменился Дальний Восток за десять лет?

FP. BusinessReview
Открыть в приложении