Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Увидимся в среде Увидимся в среде

Какие идеи лежат в основе современной архитектурной политики мегаполисов

Правила жизни
Сел и уснул: 10 лайфхаков, как хорошенько выспаться в самолете Сел и уснул: 10 лайфхаков, как хорошенько выспаться в самолете

Как «отключиться» от внешних раздражителей и погрузиться в сон на время полета

ТехИнсайдер
Vicootes Vicootes

Рагим Джафаров сочетает интеллектуальность с сюжетностью

Правила жизни
Ловушка интеллекта: как IT-гиганты обучают ИИ Ловушка интеллекта: как IT-гиганты обучают ИИ

«Красные команды» по искусственному интеллекту — кто они и зачем нужны?

Forbes
Сила любви Сила любви

Роман Костомаров и Оксана Домнина: одна из самых красивых пар российского спорта

VOICE
Привлечь и удержать Привлечь и удержать

Кадровая проблема в АПК остается системной

Агроинвестор
Схема мироздания Схема мироздания

Что объединяет орнамент, тело человека, элементарные частицы и земной шар?

Вокруг света
Сила и мысли Сила и мысли

Чувство мышцы помогает ее растить. Однако есть нюансы

Men Today
Микробы, боги, первопредки Микробы, боги, первопредки

Наше прошлое действительно может быть связано с суровыми северными богами

ТехИнсайдер
Сделай сам Сделай сам

Игрушечные машинки своими руками

Автопилот
Как назвать кота: выбираем кличку питомцу Как назвать кота: выбираем кличку питомцу

Идеи-подсказки, как назвать нового друга

ТехИнсайдер
Как в оранжерее Как в оранжерее

Лучшая гарантия здорового роста комнатных растений – своевременный уход

Лиза
Сахарозаменители Сахарозаменители

Насколько безопасны искусственные подсластители?

Здоровье
Одна против всех Одна против всех

Сериал «Литвиненко» демонстрирует, что за каждым героем стоит героиня

Дилетант
«Дома я не хочу лидировать» «Дома я не хочу лидировать»

Ольга Серябкина о силе тайм-менеджмента, воспитании ребенка и романтике

OK!
Атмосфера дзен Атмосфера дзен

Актуальный микс современности и классики с природными мотивами

Идеи Вашего Дома
Киборги Киборги

Что если сращивание человека с техникой давно произошло, просто мы не заметили?

Правила жизни
Партком тут бессилен Партком тут бессилен

Как советская производственная драма оказалась политической

Weekend
Советский супервездеход: УАЗ-3907 «Ягуар» Советский супервездеход: УАЗ-3907 «Ягуар»

УАЗ-3907 «Ягуар» легко проходил огонь и воду, но медных труб не услышал

Maxim
Булка из детства: какой хлеб пекли в СССР и чем полезна ностальгия Булка из детства: какой хлеб пекли в СССР и чем полезна ностальгия

До сих пор с ностальгическим вздохом вспоминаете хлеб, который продавали в СССР?

Psychologies
Личные границы Личные границы

Каким должен быть забор между соседями в частном доме по закону

Лиза
Жизнь других Жизнь других

Существуют места, словно созданные для съемок фильмов про иные миры

Men Today
Стандарты общения Стандарты общения

Как компаниям выстроить коммуникацию с аудиторией

Деньги
Как правильно принимать любые решения: рассказывает психолог Как правильно принимать любые решения: рассказывает психолог

Почему так важно, чтобы выбор был непременно правильным?

VOICE
Нейросети, Арктика и косатки: 7 отличных научных фильмов Нейросети, Арктика и косатки: 7 отличных научных фильмов

Актуальное научное кино на разные темы: от изучения космоса до жизни насекомых

Правила жизни
Как размножаются математики Как размножаются математики

Каждый путь математика к звездам проходит через тернии

Знание – сила
«Иногда к нам относятся так, будто мы занимаемся фриковством» «Иногда к нам относятся так, будто мы занимаемся фриковством»

«За каждой народной песней стоит человеческая история»

OK!
Куклы романтизма Куклы романтизма

Есть ли в мире бездушной и безжалостной техники место для романтиков?

Правила жизни
Роскошь для себя Роскошь для себя

Это не первое интервью с Александрой Ребенок. Но первое в таком формате

OK!
Приданое, колдовство, ненависть: что такое фемицид и за что убивают женщин Приданое, колдовство, ненависть: что такое фемицид и за что убивают женщин

Фемицид: что это такое и как на убийства женщин реагирует общество?

Forbes
Открыть в приложении