Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Солнце над столицей Солнце над столицей

73-метровое колесо обозрения, возведенное к 850-летию Москвы, долго не простояло

Популярная механика
Твое дело — труба! Твое дело — труба!

Чистая вода для дома: выбираем эффективный и доступный фильтр

Лиза
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Дружба на расстоянии Дружба на расстоянии

Сохранить отношения с лучшими друзьями всегда легко, было бы желание

Здоровье
Алгоритмические войны Алгоритмические войны

Как битвы будущего видят по ту сторону океана

Популярная механика
Модная и безликая: 7 признаков, что у тебя нет своего стиля Модная и безликая: 7 признаков, что у тебя нет своего стиля

Мы собрали 7 явных признаков отсутствия своего стиля — проверь себя!

Cosmopolitan
Микробы от похмелья Микробы от похмелья

Бактерии, которые способны утилизировать алкогольный токсин в кишечнике

Популярная механика
Искала одного, выбрала другого: чему меня научили свидания Искала одного, выбрала другого: чему меня научили свидания

Читательница поделилась опытом первых свиданий с людьми, встреченными онлайн

Psychologies
К баллистическому будущему К баллистическому будущему

Траектория движения космических аппаратов строится с учетом разных соображений

Популярная механика
Осознанное питание: как есть всё, что хочешь, и не толстеть Осознанное питание: как есть всё, что хочешь, и не толстеть

Рассказываем, как научиться слушать свое тело и есть всё, что захочется

Cosmopolitan
Новое чувство астрофизики Новое чувство астрофизики

Миссия LISA станет самым большим научным инструментом в истории человечества

Популярная механика
10 президентских фактов о Джо Байдене 10 президентских фактов о Джо Байдене

Кто такой Джо Байден и чем знаменит?

Maxim
Корабль, рожденный в «цифре» Корабль, рожденный в «цифре»

Модель имперского звездного разрушителя из кубиков LEGO весит почти 20 кг

Популярная механика
Отбелила кожу, убрала живот: как выглядела Ким Кардашьян до пластики Отбелила кожу, убрала живот: как выглядела Ким Кардашьян до пластики

Рассказываем о пластических операциях Ким Кардашьян

Cosmopolitan
Виртуальный секс Виртуальный секс

«Популярная механика» протестировала первую в мире виртуальную любовницу

Популярная механика
Канистра всех времен и народов — изобретение вермахта, благодаря которому союзники выиграли войну Канистра всех времен и народов — изобретение вермахта, благодаря которому союзники выиграли войну

На фронте мелочей не бывает

Maxim
Летящая на волне Летящая на волне

История о том, как летал один из самых необычных сверхзвуковых самолетов

Популярная механика
«Люкс превратился в один большой магазин дьюти-фри»: лучшие высказывания Тильды Суинтон об одежде, моде и стиле и ее знаковые кинообразы «Люкс превратился в один большой магазин дьюти-фри»: лучшие высказывания Тильды Суинтон об одежде, моде и стиле и ее знаковые кинообразы

Тильда Суинтон о моде и отношениях с одеждой

Esquire
Долгая счастливая жизнь Долгая счастливая жизнь

Старение – это естественно, но не нормально

Популярная механика
10 эффектных сцен, незаслуженно вырезанных из фильмов 10 эффектных сцен, незаслуженно вырезанных из фильмов

Важные сцены, которые были отправлены в корзину, хотя они помогают понять сюжет

РБК
Человек, который придумывает будущее Человек, который придумывает будущее

Компания с российскими корнями разрабатывает уникальные технологии для авто

Популярная механика
Правила жизни Гаспара Ноэ Правила жизни Гаспара Ноэ

Правила жизни французского режиссера Гаспара Ноэ

Esquire
Меняю автомат на беспилотник Меняю автомат на беспилотник

Первое боестолкновение, где решающую роль сыграли беспилотные дроны

Популярная механика
Третье поколение Nissan X-Trail Третье поколение Nissan X-Trail

Автомобиль, который в буквальном смысле возродил Nissan

4x4 Club
Никогда такого не было Никогда такого не было

Самый большой неатомный ледокол России может крутиться на месте

Популярная механика
Новый год по-домашнему Новый год по-домашнему

Пришло время вспомнить, что новый год – это домашний праздник

Здоровье
Чем мы дышим Чем мы дышим

Как оцифровать весь воздух в городах

Популярная механика
Солнечная петербурженка Солнечная петербурженка

Кристина Горбунова — официально Playmate 2020!

Playboy
Поля морей Поля морей

Новые технологии сельского хозяйства: фермы в океане

Популярная механика
Как реагировать на оскорбления в Интернете достойно и по-мужски Как реагировать на оскорбления в Интернете достойно и по-мужски

Что делать, если кто-то там в Интернете как-то не так тебя обозвал

Maxim
Открыть в приложении