Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Робот – лучший повар Робот – лучший повар

Намучившись с самодеятельной кулинарией, он решил поручить эти заботы технике

Популярная механика
Сила звука: Zivert Сила звука: Zivert

В 2020‑м Zivert записывала хит за хитом. Продолжение следует

Glamour
Миры миров Миры миров

Как стать президентом в мультивселенной

Популярная механика
От «Сверхъестественного» до «Тьмы»: 7 мистических сериалов От «Сверхъестественного» до «Тьмы»: 7 мистических сериалов

Семь лучших телешоу, которые позволят ненадолго уйти от реальности

РБК
Винтокрыл против конвертоплана Винтокрыл против конвертоплана

«Вертолет» не самый подходящий термин для описания этих воздушных монстров

Популярная механика
10 советов, которые помогут вам сформировать здоровое отношение к технологиям 10 советов, которые помогут вам сформировать здоровое отношение к технологиям

Зои Астон укажет путь к разумным взаимоотношениям с экранами ваших устройств

GQ
Триумф 57 мм Триумф 57 мм

Новое слово в разработке российских бронемашин

Популярная механика
4 способа стать популярным у женщин, ничего для этого не делая 4 способа стать популярным у женщин, ничего для этого не делая

Рассказываем, как стать востребованным у женщин, не делая для этого усилий

Maxim
Маломощные реакторы спасут мирный атом Маломощные реакторы спасут мирный атом

Репутация – главная проблема атомной энергетики в XXI веке

Популярная механика
Три сыночка и лапочка-дочка: как складывается личная жизнь Саши Зверевой Три сыночка и лапочка-дочка: как складывается личная жизнь Саши Зверевой

10 фактов о Саше Зверевой

Cosmopolitan
Космические тоннели Космические тоннели

Существуют ли кротовые норы?

Популярная механика
Теперь можно подключить компьютер к мозгу по венам Теперь можно подключить компьютер к мозгу по венам

Как управлять гаджетам, используя разум

GQ
Чем мы дышим Чем мы дышим

Как оцифровать весь воздух в городах

Популярная механика
«Черкизово». Наследники. Алтай «Черкизово». Наследники. Алтай

Почему Игорь Бабаев отдал весь свой бизнес сыновьям

Forbes
Одомашнивание: новый цикл Одомашнивание: новый цикл

До конца нынешнего десятилетия произойдет очередная революция

Популярная механика
Катализатор двойного действия превратит отработанное масло в биодизель Катализатор двойного действия превратит отработанное масло в биодизель

Химики научились получать биодизельное топливо из загрязненного масла

N+1
Щит от гиперзвука Щит от гиперзвука

Они быстро настигнут врага в любой точке мира

Популярная механика
Гонка лоялистов: откуда идет волна репрессивного законотворчества Гонка лоялистов: откуда идет волна репрессивного законотворчества

Кто и зачем продвигает репрессивную компанию в законодательстве

Forbes
5 невероятных проектов для борьбы с потеплением 5 невероятных проектов для борьбы с потеплением

Как люди собираются противостоять глобальному потеплению

Популярная механика
Почему Россия проиграла президентские выборы в Молдавии Почему Россия проиграла президентские выборы в Молдавии

Россия потерпела очередное за 2020 год поражение на постсоветском пространстве

СНОБ
Как безумный Майк Хьюз отправился за славой и погиб Как безумный Майк Хьюз отправился за славой и погиб

Пустыня Мохаве что-то шептала в темноте, пока Безумный Майк готовился к полету

Популярная механика
Как диагностировать и лечить боковой амиотрофический склероз Как диагностировать и лечить боковой амиотрофический склероз

Каждые 90 минут в мире диагностируют БАС

РБК
Гора серебряная Гора серебряная

Как добывают благородные металлы

Популярная механика
Героини времени нашего Героини времени нашего

Истории выдающихся женщин, которые смело меняют и свою жизнь, и мир вокруг себя

Лиза
Силой мысли, или что обещает нам Илон Маск Силой мысли, или что обещает нам Илон Маск

Чего же Маск хотел в сфере нейроинтерфейсов, что сделал и что сможет сделать

Популярная механика
Новые «звездные войны»: NASA против флотилии спутников Новые «звездные войны»: NASA против флотилии спутников

Очередной конфликт назревает в космонавтике

Популярная механика
Лучше, чем жизнь Лучше, чем жизнь

Традиционно самыми ресурсоемкими считались спецэффекты для кино

Популярная механика
Система вознаграждения среднего мозга не увидела разницы между голодом и социальной изоляцией Система вознаграждения среднего мозга не увидела разницы между голодом и социальной изоляцией

После голода и социальной изоляции активны одни нейроны в среднем мозге

N+1
Античный герой Античный герой

Кого люди будут вспоминать через столетия?

Популярная механика
Портрет писателя с котиком Портрет писателя с котиком

Домашние животные, помогавшие писателям писать

Weekend
Открыть в приложении