Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Техпарад Техпарад

Новости мира науки и техники

Популярная механика
Как исправить неудачный татуаж — рассказывает мастер перманентного макияжа Как исправить неудачный татуаж — рассказывает мастер перманентного макияжа

Неудачный перманент — это неприятно, но исправимо. Рассказываем, как

Cosmopolitan
За кулисами пуска За кулисами пуска

Старт космической ракеты – зрелище без преувеличения грандиозное

Популярная механика
8 случаев, когда матчи были прерваны самым курьезным образом 8 случаев, когда матчи были прерваны самым курьезным образом

В эти матчи вмешался веселый случай

Maxim
Кубик Осипова Кубик Осипова

Самая ожидаемая и самая крутая головоломка десятилетия

Популярная механика
Вишенка на не очень вкусном торте: зачем «Сбер» купил Rambler Group Вишенка на не очень вкусном торте: зачем «Сбер» купил Rambler Group

«Сбер» купил Rambler ради онлайн-видео сервиса Okko

Forbes
Техпарад Техпарад

Новости мира науки и техники

Популярная механика
Парное интервью: Сюзанна и Мальбэк — о пути художника, репутационных рисках и призвании Парное интервью: Сюзанна и Мальбэк — о пути художника, репутационных рисках и призвании

Сюзанна и Мальбэк рассказывают о музыке, творчестве и пути художника

Esquire
Голоса. Как учат разговаривать голосовые помощники Голоса. Как учат разговаривать голосовые помощники

Как из машины делают личность

Популярная механика
4 причины конфликтов в отношениях 4 причины конфликтов в отношениях

Умение решать конфликты — залог крепких отношений

Psychologies
Новое чувство астрофизики Новое чувство астрофизики

Миссия LISA станет самым большим научным инструментом в истории человечества

Популярная механика
Минусовая степень Минусовая степень

Как ухаживать за кожей лица и тела после похудения?

Лиза
Настя Ивлеева Настя Ивлеева

Настя Ивлеева: «Цифровая реальность – это в высшей степени сексуально!»

Playboy
Глицин сформировался в условиях темного межзвездного облака Глицин сформировался в условиях темного межзвездного облака

Это говорит о более широкой распространенности данной аминокислоты во вселенной

N+1
Античный герой Античный герой

Кого люди будут вспоминать через столетия?

Популярная механика
Такими ты их не помнишь! Звезды, которые сильно похудели и невероятно изменились Такими ты их не помнишь! Звезды, которые сильно похудели и невероятно изменились

Вспомнили истории знаменитостей, которым удалось сильно похудеть

Cosmopolitan
Меняю автомат на беспилотник Меняю автомат на беспилотник

Первое боестолкновение, где решающую роль сыграли беспилотные дроны

Популярная механика
Почему хочется сходить в туалет, когда нервничаешь: объяснение уролога Почему хочется сходить в туалет, когда нервничаешь: объяснение уролога

Какая связь между этими двумя состояниями?

Playboy
Как полюбить будущее и не сойти с ума Как полюбить будущее и не сойти с ума

Артемий Лебедев в российском интернете, как Пелевин – в русской литературе

Популярная механика
«Белые карлики. Будущее Вселенной» «Белые карлики. Будущее Вселенной»

Отрывок из книги Алексея Левина об использовании белых карликов

N+1
Занимательная физика Занимательная физика

Мечта всех родителей – обучающие игрушки

Популярная механика
Будь, как Бонд: разбираем луки агента 007 и запоминаем идеи звездных киностилистов Будь, как Бонд: разбираем луки агента 007 и запоминаем идеи звездных киностилистов

Эксперты нашли сразу 10 идеальных вещей Джеймса Бонда

Playboy
Верхом на вихре Верхом на вихре

Возможное будущее гражданской авиации

Популярная механика
Евгений Водолазкин: Оправдание острова. Отрывок из седьмого романа лауреата «Большой книги» Евгений Водолазкин: Оправдание острова. Отрывок из седьмого романа лауреата «Большой книги»

Отрывок из романа Евгения Водолазкина об острове, которого нет на картах

СНОБ
Алгоритмические войны Алгоритмические войны

Как битвы будущего видят по ту сторону океана

Популярная механика
Гендиректор «СберЛогистики» Сергей Малышев об особенностях логистики в России Гендиректор «СберЛогистики» Сергей Малышев об особенностях логистики в России

С какими сложностями сталкиваются операционные сервисы в России

СНОБ
Силой мысли, или что обещает нам Илон Маск Силой мысли, или что обещает нам Илон Маск

Чего же Маск хотел в сфере нейроинтерфейсов, что сделал и что сможет сделать

Популярная механика
Partners in Crime Partners in Crime

Елена Ильиных и Влад Топалов — самая темпераментная пара шоу «Ледниковый период»

OK!
Лена Горностаева Лена Горностаева

Какую часть мужского тела Лена Горностаева считает самой сексуальной?

Playboy
Как живут красавицы 90-х: Ирина Салтыкова, Элен Ролле, Дженни Гарт и другие Как живут красавицы 90-х: Ирина Салтыкова, Элен Ролле, Дженни Гарт и другие

Чем героини культовых сериалов и бывшие певицы заняты сейчас?

Cosmopolitan
Открыть в приложении