Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Будущее стратегической авиации: B-21 против ПАК ДА Будущее стратегической авиации: B-21 против ПАК ДА

В России и США разрабатываются новые модели стратегических бомбардировщиков

Популярная механика
История одного посещения История одного посещения

Мария Степанова о неизвестной встрече на высшем уровне

Weekend
Техпарад Техпарад

Новости мира науки и техники

Популярная механика
«Зачем делать длинную песню — можно сделать две коротких и заработать больше»: как современные технологии меняют музыку «Зачем делать длинную песню — можно сделать две коротких и заработать больше»: как современные технологии меняют музыку

Как меняется современная музыка и медиарынок в целом

VC.RU
Убийственный «гипер» Убийственный «гипер»

Все об аэродинамике самого перспективного оружия

Популярная механика
Правила жизни Армена Джигарханяна Правила жизни Армена Джигарханяна

Правила жизни режиссера и народного артиста СССР Армена Джигарханяна

Esquire
...Бегом под парусом ...Бегом под парусом

Кубок «Америки» – 2021 и гонка бегущих яхт

Популярная механика
9 актеров, которые оказались слишком мускулистыми для своих ролей 9 актеров, которые оказались слишком мускулистыми для своих ролей

Во многих фильмах актеры явно перестарались с физической формой

Maxim
В ожидании космического отпуска В ожидании космического отпуска

Самые реальные варианты космического туризма

Популярная механика
Как выглядели первые гидрокостюмы (пугающие фото) Как выглядели первые гидрокостюмы (пугающие фото)

Удивительные архивные фотографии первых гидрокостюмов

Maxim
Иллюзия успеха Иллюзия успеха

Четыре истории о талантливых мастерах пускать пыль в глаза

Популярная механика
Иван Митин строит в Грузии королевство для идеалистов за их же деньги. Хватит ли ему единомышленников для успеха? Иван Митин строит в Грузии королевство для идеалистов за их же деньги. Хватит ли ему единомышленников для успеха?

Почему для успешного бизнеса одного сообщества идеалистов недостаточно

Inc.
Триумф 57 мм Триумф 57 мм

Новое слово в разработке российских бронемашин

Популярная механика
Сын уборщицы и работника завода: как воспитывали родители Лионеля Месси Сын уборщицы и работника завода: как воспитывали родители Лионеля Месси

Лионель Месси родился в семье, где все были немного увлечены футболом

Cosmopolitan
Виртуальный секс Виртуальный секс

«Популярная механика» протестировала первую в мире виртуальную любовницу

Популярная механика
Кому добавки? Кому добавки?

Рассказываем, каких веществ с индексом «Е» в продуктах стоит избегать

Лиза
Занимательная физика Занимательная физика

Мечта всех родителей – обучающие игрушки

Популярная механика
Шервуд Андерсон Шервуд Андерсон

Американский писатель Шервуд Андерсон глазами Дмитрия Быкова

Дилетант
За кулисами пуска За кулисами пуска

Старт космической ракеты – зрелище без преувеличения грандиозное

Популярная механика
Новая. Открытая Новая. Открытая

Даша Астафьева эмоционально обнажается в черно-белой фотосессии

Playboy
Силой мысли, или что обещает нам Илон Маск Силой мысли, или что обещает нам Илон Маск

Чего же Маск хотел в сфере нейроинтерфейсов, что сделал и что сможет сделать

Популярная механика
Все цвета радости: на автомобилях какого цвета меньше видна грязь Все цвета радости: на автомобилях какого цвета меньше видна грязь

Нет ничего прекраснее чистого автомобиля, играющего бликами на кузовных панелях

Maxim
Техпарад Техпарад

Новости мира науки и техники

Популярная механика
Режиссер 2020 года: Эдуард Оганесян Режиссер 2020 года: Эдуард Оганесян

Эдуард Оганесян до и после «Чик»

GQ
Никогда такого не было Никогда такого не было

Самый большой неатомный ледокол России может крутиться на месте

Популярная механика
Одежда из фильмов и сериалов, которую многие захотели носить, но лучше бы этого не делать Одежда из фильмов и сериалов, которую многие захотели носить, но лучше бы этого не делать

Спортивный костюм, как в «Джентльменах», идет только Колину Фарреллу

Maxim
Верхом на вихре Верхом на вихре

Возможное будущее гражданской авиации

Популярная механика
Как избежать ошибок с широкими брюками: модные правила от стилиста Как избежать ошибок с широкими брюками: модные правила от стилиста

Стилист объясняет, как носить брюки-палаццо

Cosmopolitan
Киберпанк-2021 Киберпанк-2021

Проект нового направления в музыкальной индустрии родился на стыке технологий

Популярная механика
Союз спасения Союз спасения

Молодые герои и героини филантропии и социального бизнеса — о своих проектах

Vogue
Открыть в приложении