Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Все есть копия» «Все есть копия»

Как китайцы начинают работать над новым дизайном этого мира

Правила жизни
Стесняюсь спросить: как руководителю решать конфликты в коллективе? Стесняюсь спросить: как руководителю решать конфликты в коллективе?

Как управлять конфликтами в команде?

Правила жизни
Vicootes Vicootes

Рагим Джафаров сочетает интеллектуальность с сюжетностью

Правила жизни
Электрический ключ к прекрасному Электрический ключ к прекрасному

Ученые исследуют нейрофизиологические механизмы восприятия произведений живописи

Наука
Всеобщий язык Всеобщий язык

Разговор о том, как сохранять внутреннюю свободу и находить опору

Seasons of life
Петербург будущего Петербург будущего

Девелопер и миллиардер Игорь Водопьянов — визионер, меценат, пассионарий

Собака.ru
6 причин, по которым белое вино стало мировым трендом 6 причин, по которым белое вино стало мировым трендом

Разбираемся в причинах «белого разворота» в мире вина

РБК
Партком тут бессилен Партком тут бессилен

Как советская производственная драма оказалась политической

Weekend
«Я за то, чтобы жить настоящим» «Я за то, чтобы жить настоящим»

С Камилем Лариным мы поговорили о его новой роли, роботах и спорах с Siri

Лиза
Сибирский вайб: 5 перспективных молодых артистов из северного региона Сибирский вайб: 5 перспективных молодых артистов из северного региона

Фрэшмены из Сибири, имеющие все шансы стать звездами

Maxim
«Боевое НЛП»: как понять, что вас вербуют «Боевое НЛП»: как понять, что вас вербуют

Как распознать методы боевого НЛП

Psychologies
Экономика и крупнейшие предприятия Экономика и крупнейшие предприятия

Самые крупные и значимые предприятия Чувашии

ФедералПресс
Медиа империи Медиа империи

Изучим анатомию своеобразного медиахолдинга Российской империи середины XIX века

Наука
Управляющий директор Okkam Creative Ольга Петрова: Люди привыкли доверять советам других людей Управляющий директор Okkam Creative Ольга Петрова: Люди привыкли доверять советам других людей

Интервью с управляющим директором Okkam Creative Ольгой Петровой

СНОБ
Обман мнениями: нейросети способны незаметно менять точку зрения пользователей Обман мнениями: нейросети способны незаметно менять точку зрения пользователей

Умные помощники способны незаметно менять мышление пользователя

ФедералПресс
Покровительница Волги: 10 мест, которые стоит посетить в Чувашии Покровительница Волги: 10 мест, которые стоит посетить в Чувашии

Культурные и природные достопримечательности Чувашии

ФедералПресс
Ананасы в шампанском. О чем и как писал Игорь Северянин Ананасы в шампанском. О чем и как писал Игорь Северянин

Как Игорю Северянину удалось стать «королем поэтов»?

СНОБ
Наука о чужих. Жизнь и разум во Вселенной Наука о чужих. Жизнь и разум во Вселенной

К концу XIX века мало кто сомневался, что ближайшие планеты населены

Наука и жизнь
Анна Меркулова: «Развитие метростроительства связано с цифровизацией» Анна Меркулова: «Развитие метростроительства связано с цифровизацией»

Как развивается транспортная инфраструктура в регионах

РБК
Как избавиться от одиночества и как с ним справиться Как избавиться от одиночества и как с ним справиться

Почему общительные люди тоже ощущают одиночество?

Psychologies
Как назвать кота: выбираем кличку питомцу Как назвать кота: выбираем кличку питомцу

Идеи-подсказки, как назвать нового друга

ТехИнсайдер
Благоустройство северных городов: особенности, которые стоит учесть Благоустройство северных городов: особенности, которые стоит учесть

О впечатлениях от города Якутска и существующих проблемах

ФедералПресс
Восемь с половиной обстоятельств Восемь с половиной обстоятельств

Из каких случайностей возникла опера Генри Пёрселла «Королева фей»

Weekend
Как Ксения Сосункевич выращивает клубнику в Карелии, несмотря на климат и кризисы Как Ксения Сосункевич выращивает клубнику в Карелии, несмотря на климат и кризисы

Как живут и строят карьеру женщины в российских регионах

Forbes
Пропаганда как свидетельство Пропаганда как свидетельство

6 фильмов, в которых старые кадры разоблачают своих героев и заказчиков

Weekend
Прильнувшие стеблем… Прильнувшие стеблем…

Вьюнки и повои из семейства Вьюнковые — красивые и коварные одновременно

Наука и жизнь
О моделировании искусственного мозга: «Ученые столкнутся с этическими проблемами» О моделировании искусственного мозга: «Ученые столкнутся с этическими проблемами»

О чем думает искусственно выращенный «мозг»?

ФедералПресс
Красота без изъяна. Как сохранить здоровье груди и не дать мастопатии перерасти в рак Красота без изъяна. Как сохранить здоровье груди и не дать мастопатии перерасти в рак

Большинство женщин, у которых диагностирована мастопатия, находятся в зоне риска

Лиза
Зачем России квантовые компьютеры: «Так добьемся техносуверенитета» Зачем России квантовые компьютеры: «Так добьемся техносуверенитета»

Вопросы развития технологического суверенитета сейчас стоят особенно остро

ФедералПресс
Сдвинувший материки Сдвинувший материки

Альфред Вегенер – человек, понявший, что континенты движутся

Вокруг света
Открыть в приложении