Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Щит от гиперзвука Щит от гиперзвука

Они быстро настигнут врага в любой точке мира

Популярная механика
Скажи мне, кто твой друг… Скажи мне, кто твой друг…

Иногда подруги могут разрушить нашу жизнь

Лиза
Как безумный Майк Хьюз отправился за славой и погиб Как безумный Майк Хьюз отправился за славой и погиб

Пустыня Мохаве что-то шептала в темноте, пока Безумный Майк готовился к полету

Популярная механика
Здоровый мазохизм: в чем его польза Здоровый мазохизм: в чем его польза

Мазохизм — очень важный механизм для получения удовольствия

Psychologies
Убийственный «гипер» Убийственный «гипер»

Все об аэродинамике самого перспективного оружия

Популярная механика
Совсем не лишний вес Совсем не лишний вес

С грустью разглядывая свои складочки на талии, вы впадаете в меланхолию… И зря!

Добрые советы
Очень тяжелые носители Очень тяжелые носители

Прототипы будущей сверхтяжелой ракеты Starship продолжают испытания

Популярная механика
Мрачные тени: как избавиться от тяжелых воспоминаний о прошлом Мрачные тени: как избавиться от тяжелых воспоминаний о прошлом

Что делать, если прошлое мешает тебе жить

Cosmopolitan
Ниже солнца, выше воды Ниже солнца, выше воды

Беспилотное судно с почти неограниченным запасом хода

Популярная механика
Gartner назвала 10 способов быстро сократить расходы на ИТ в кризис Gartner назвала 10 способов быстро сократить расходы на ИТ в кризис

Как управлять затратами на ИТ в кризис

Inc.
Триумф 57 мм Триумф 57 мм

Новое слово в разработке российских бронемашин

Популярная механика
«Традиции меценатов благополучно продолжаются»: директор Пушкинского музея Марина Лошак — о запрете выставок, финансовом кризисе и жизни после локдауна «Традиции меценатов благополучно продолжаются»: директор Пушкинского музея Марина Лошак — о запрете выставок, финансовом кризисе и жизни после локдауна

Интервью с директором ГМИИ им. Пушкина Мариной Лошак

Forbes
Тайна форсажного пламени Тайна форсажного пламени

Что такое форсаж?

Популярная механика
Модель ESCIMO указала на пройденную точку невозврата в потеплении климата Модель ESCIMO указала на пройденную точку невозврата в потеплении климата

Полное прекращение выбросов парниковых газов не остановит потепление

N+1
Лучше, чем жизнь Лучше, чем жизнь

Традиционно самыми ресурсоемкими считались спецэффекты для кино

Популярная механика
Как СССР и Германия избегали войны друг с другом накануне Второй мировой. Отрывок из книги Как СССР и Германия избегали войны друг с другом накануне Второй мировой. Отрывок из книги

Отрывок из книги историка и дипломата Артема Рудницкого «Верхом на тигре»

СНОБ
Голоса. Как учат разговаривать голосовые помощники Голоса. Как учат разговаривать голосовые помощники

Как из машины делают личность

Популярная механика
Сезон спокойствия Сезон спокойствия

Какие стрессовые факторы действуют на вас сильнее всего?

Домашний Очаг
Маломощные реакторы спасут мирный атом Маломощные реакторы спасут мирный атом

Репутация – главная проблема атомной энергетики в XXI веке

Популярная механика
В Африку гулять! В Африку гулять!

Танзания становится всё более популярным travel-направлением

OK!
Не рокот космодрома Не рокот космодрома

Как и зачем строят космодромы

Популярная механика
Сколько состояний материи вы сможете назвать: мир вокруг нас Сколько состояний материи вы сможете назвать: мир вокруг нас

Все мы знаем о том, что есть три агрегатных состояния вещества

Популярная механика
Шоу должно продолжаться Шоу должно продолжаться

Самые интересные премьеры Женевского автосалона

Популярная механика
10 имен из мира компьютерных игр, которые должен знать каждый 10 имен из мира компьютерных игр, которые должен знать каждый

Имена этих гениев игровой индустрии будут изучать в школе

Maxim
Огнем и волной Огнем и волной

3D-печать на сегодня – один из столпов мирового технического прогресса

Популярная механика
Аборт и закон: могут ли нам запретить решать, когда быть матерью? Аборт и закон: могут ли нам запретить решать, когда быть матерью?

Как один закон может повлиять на судьбы многих женщин

Cosmopolitan
Радио против видео Радио против видео

Автоматическая посадка крылатого летательного аппарата давно уже не фантастика

Популярная механика
Что делает город городом? Фрагмент новой книги директора лондонского Музея дизайна и историка архитектуры Деяна Суджича Что делает город городом? Фрагмент новой книги директора лондонского Музея дизайна и историка архитектуры Деяна Суджича

В книге «Язык городов» Деян Суджич обращается к фундаментальному понятию города

Esquire
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
8 типичных ошибок при выборе белья, которые ты хоть раз совершала 8 типичных ошибок при выборе белья, которые ты хоть раз совершала

Нижнее белье нужно подбирать с умом

Cosmopolitan
Открыть в приложении