Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Виртуальный секс Виртуальный секс

«Популярная механика» протестировала первую в мире виртуальную любовницу

Популярная механика
Марина Краснова Марина Краснова

Директор по продукту ВКонтакте руководит коллективом из более 200 разработчиков

Собака.ru
Восток и его обитатели Восток и его обитатели

В озере Восток под ледовым щитом Антарктиды есть жизнь

Популярная механика
Во всем виноваты родители? Почему стало модно искать все проблемы в детстве Во всем виноваты родители? Почему стало модно искать все проблемы в детстве

Действительно мама и папа виноваты в наших бедах или пора наконец повзрослеть?

Cosmopolitan
Очень тяжелые носители Очень тяжелые носители

Прототипы будущей сверхтяжелой ракеты Starship продолжают испытания

Популярная механика
Стоит ли вам с девушкой начать спать в разных кроватях? Советы экспертов, как сделать это правильно Стоит ли вам с девушкой начать спать в разных кроватях? Советы экспертов, как сделать это правильно

Иногда это может спасти отношения

Playboy
Меняю автомат на беспилотник Меняю автомат на беспилотник

Первое боестолкновение, где решающую роль сыграли беспилотные дроны

Популярная механика
Как сложились судьбы детей свергнутых (или просто умерших) диктаторов современности Как сложились судьбы детей свергнутых (или просто умерших) диктаторов современности

Мурад Ниязов, Гульнара Каримова, Николае Чаушеску-младший — где они теперь?

Maxim
Радио против видео Радио против видео

Автоматическая посадка крылатого летательного аппарата давно уже не фантастика

Популярная механика
5 самых страшных космических происшествий 5 самых страшных космических происшествий

Космос осваивают силами лучших ученых, но катастрофы все равно случаются

Maxim
Метавселенные Метавселенные

Главная технология и тренд этого года – виртуальные вселенные, или метавселенные

Популярная механика
Любовь на миллиард: жены — настоящие и бывшие — 10 богатейших мужчин России Любовь на миллиард: жены — настоящие и бывшие — 10 богатейших мужчин России

Кого любят, кому изменяют и от кого уходят самые богатые мужчины страны?

Cosmopolitan
Человек, который придумывает будущее Человек, который придумывает будущее

Компания с российскими корнями разрабатывает уникальные технологии для авто

Популярная механика
Правила жизни Итана Хоука Правила жизни Итана Хоука

Правила жизни актера Итана Хоука

Esquire
Чем мы дышим Чем мы дышим

Как оцифровать весь воздух в городах

Популярная механика
Как оценить стоимость стартапа. Ультимативное руководство для фаундера Как оценить стоимость стартапа. Ультимативное руководство для фаундера

Мир венчурных инвестиций особенно загадочен в части оценки стоимости стартапов

Inc.
На понятном языке На понятном языке

Как появился Kotlin, и правда ли, что он идеален для программирования

Популярная механика
Сладкая несладкая жизнь Сладкая несладкая жизнь

Учёные нашли ещё одно доказательство негативного влияния сахара на наше здоровье

Здоровье
Лучше, чем жизнь Лучше, чем жизнь

Традиционно самыми ресурсоемкими считались спецэффекты для кино

Популярная механика
Коридор невозможностей Коридор невозможностей

«Псих» Федора Бондарчука: простовато про «умное»

Огонёк
Цифровое бессмертие Цифровое бессмертие

Sensorium Galaxy – VR-платформа, которая способна преобразить нашу жизнь

Популярная механика
Миллионер из трущоб: почему Марадона такой великий и наглый Миллионер из трущоб: почему Марадона такой великий и наглый

Отрывок из книги «Игра народная. Русские писатели о футболе»

Forbes
Как безумный Майк Хьюз отправился за славой и погиб Как безумный Майк Хьюз отправился за славой и погиб

Пустыня Мохаве что-то шептала в темноте, пока Безумный Майк готовился к полету

Популярная механика
Спасаемся от хандры: оттенки осени в элементах декора Спасаемся от хандры: оттенки осени в элементах декора

Дизайнерские решения, которые помогут справиться с осенней грустью

Psychologies
Гора серебряная Гора серебряная

Как добывают благородные металлы

Популярная механика
От 30 до 100: модели, добившиеся успеха в зрелом возрасте От 30 до 100: модели, добившиеся успеха в зрелом возрасте

Пять моделей, которые доказали: начинать никогда не поздно!

Cosmopolitan
Билет в один конец Билет в один конец

Илон Маск мечтает умереть на Марсе, и он по-своему прав

Популярная механика
Кто инициировал путь «из варяг в греки»? Кто инициировал путь «из варяг в греки»?

Путь «из варяг в греки» стал главным для формирования древнерусского государства

Культура.РФ
Летящая на волне Летящая на волне

История о том, как летал один из самых необычных сверхзвуковых самолетов

Популярная механика
Расстрел и Людмила Расстрел и Людмила

Неудачная попытка превратить советскую историю в античную трагедию

Weekend
Открыть в приложении