Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Робот – лучший повар Робот – лучший повар

Намучившись с самодеятельной кулинарией, он решил поручить эти заботы технике

Популярная механика
8 секретов, спрятанных в известных картинах 8 секретов, спрятанных в известных картинах

У великих мастеров и пасхалки великие!

Maxim
...Бегом под парусом ...Бегом под парусом

Кубок «Америки» – 2021 и гонка бегущих яхт

Популярная механика
Необычный запах: как эфирные масла влияют на мозг Необычный запах: как эфирные масла влияют на мозг

Почему ароматы действуют на людей по-разному?

Популярная механика
Топливо больших скоростей Топливо больших скоростей

Прогресс привнес новейшие технологии в систему обеспечения лайнеров топливом

Популярная механика
«Люби его таким, какой он есть»: большое заблуждение? «Люби его таким, какой он есть»: большое заблуждение?

Существует ли идеальная любовь?

Psychologies
Истребитель дронов Истребитель дронов

Российская компания представила первый в мире беспилотный истребитель дронов

Популярная механика
Возвращение парусного флота Возвращение парусного флота

Почему парусники возвращаются?

Популярная механика
Корабль, рожденный в «цифре» Корабль, рожденный в «цифре»

Модель имперского звездного разрушителя из кубиков LEGO весит почти 20 кг

Популярная механика
Тацуо Такахаши. Я влюбился в борщ! Тацуо Такахаши. Я влюбился в борщ!

Тацуо Такахаши – о том, какими будут автомобили в недалёком будущем

4x4 Club
Как безумный Майк Хьюз отправился за славой и погиб Как безумный Майк Хьюз отправился за славой и погиб

Пустыня Мохаве что-то шептала в темноте, пока Безумный Майк готовился к полету

Популярная механика
Ева без рая Ева без рая

Ева Грин встретилась на руинах старой Европы с Алексеем Тархановым

Tatler
Успеть за 15 секунд Успеть за 15 секунд

Людям надоело притворяться – в TikTok они остаются собой

Популярная механика
Жестокая расплата за отказ: как советские режиссеры ломали судьбы актрисам Жестокая расплата за отказ: как советские режиссеры ломали судьбы актрисам

Эти советские актрисы решились сказать режиссеру «нет» — и жестоко поплатились

Cosmopolitan
Восток и его обитатели Восток и его обитатели

В озере Восток под ледовым щитом Антарктиды есть жизнь

Популярная механика
Смена власти в гареме заставила самок гелад созреть быстрее Смена власти в гареме заставила самок гелад созреть быстрее

Влияют ли самцы на скорость созревание самок в дикой среде?

N+1
Нечеловеческий секс Нечеловеческий секс

Почему мы все еще занимаемся сексом по старинке – с живыми людьми?

Популярная механика
Одержимость сексом: что делать, если партнер страдает зависимостью? Одержимость сексом: что делать, если партнер страдает зависимостью?

Возможно ли сохранить отношения, если у одного из партнеров зависимость от секса

Psychologies
Симулятор войны Симулятор войны

Современные дети не играют в войну, зато в нее играют их родители

Популярная механика
24 часа с Тимуром Родригезом 24 часа с Тимуром Родригезом

В конце года каждый день у Тимура расписан по минутам

Cosmopolitan
Античный герой Античный герой

Кого люди будут вспоминать через столетия?

Популярная механика
Мир викингов и скандинавская мифология: обзор на игру Assassin's Creed: Valhalla Мир викингов и скандинавская мифология: обзор на игру Assassin's Creed: Valhalla

Почему Assassin's Creed: Valhalla это лучшая игра серии за последние годы

Esquire
Человек, который придумывает будущее Человек, который придумывает будущее

Компания с российскими корнями разрабатывает уникальные технологии для авто

Популярная механика
С миру по нитке С миру по нитке

Разочаровавшись в моде, Азиза Азим запустила собственную марку

Vogue
Маломощные реакторы спасут мирный атом Маломощные реакторы спасут мирный атом

Репутация – главная проблема атомной энергетики в XXI веке

Популярная механика
Мало, мало, мало огня Мало, мало, мало огня

Год, когда непостижимость божественного замысла включилась на максимум

Tatler
Долгая счастливая жизнь Долгая счастливая жизнь

Старение – это естественно, но не нормально

Популярная механика
Самый лучший компьютер, которого ни у кого не было: краткая история NeXT Самый лучший компьютер, которого ни у кого не было: краткая история NeXT

Как выглядел прадед iOS

Maxim
Виртуальный секс Виртуальный секс

«Популярная механика» протестировала первую в мире виртуальную любовницу

Популярная механика
Спортивный квартирник Спортивный квартирник

Обсудили с профессионалом по физподгогтовке, как не сохранить форму

Playboy
Открыть в приложении