Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Голоса. Как учат разговаривать голосовые помощники Голоса. Как учат разговаривать голосовые помощники

Как из машины делают личность

Популярная механика
Бет: Начало Бет: Начало

«Ход королевы» — сериал об одиночестве и новой суперсиле

Weekend
Очень тяжелые носители Очень тяжелые носители

Прототипы будущей сверхтяжелой ракеты Starship продолжают испытания

Популярная механика
«Сама виновата». Как оренбургского следователя наказали за неэтичное поведение с жертвой насилия «Сама виновата». Как оренбургского следователя наказали за неэтичное поведение с жертвой насилия

Почему мы так критично реагируем на случаи насилия?

СНОБ
За урожаем из глубин За урожаем из глубин

На разных верфях страны бум рыбопромыслового судостроения

Популярная механика
Как избежать ошибок с широкими брюками: модные правила от стилиста Как избежать ошибок с широкими брюками: модные правила от стилиста

Стилист объясняет, как носить брюки-палаццо

Cosmopolitan
На понятном языке На понятном языке

Как появился Kotlin, и правда ли, что он идеален для программирования

Популярная механика
Лучший попутчик. Правила путешествия с собакой Лучший попутчик. Правила путешествия с собакой

Для собаки путешествие — это новый мир запахов, вкусов, встреч и просторов

4x4 Club
Метавселенные Метавселенные

Главная технология и тренд этого года – виртуальные вселенные, или метавселенные

Популярная механика
Расстрел и Людмила Расстрел и Людмила

Неудачная попытка превратить советскую историю в античную трагедию

Weekend
Добро пожаловать в черную дыру Добро пожаловать в черную дыру

Как насчет визита к одной из черных дыр?

Популярная механика
Даже лучший алгоритм может навредить человеку Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБК
К баллистическому будущему К баллистическому будущему

Траектория движения космических аппаратов строится с учетом разных соображений

Популярная механика
Белые рыцари Amazon: как зарабатывать миллионы на миллиардах Джеффа Безоса Белые рыцари Amazon: как зарабатывать миллионы на миллиардах Джеффа Безоса

Amazon преуспел в развитии предпринимательства больше, чем кто-либо другой

Forbes
Виртуальный секс Виртуальный секс

«Популярная механика» протестировала первую в мире виртуальную любовницу

Популярная механика
Не только «Пираты»: лучшие фильмы с Кирой Найтли Не только «Пираты»: лучшие фильмы с Кирой Найтли

Кира Найтли — одна из самых молодых претенденток на «Оскар»

Cosmopolitan
Убийственный «гипер» Убийственный «гипер»

Все об аэродинамике самого перспективного оружия

Популярная механика
Первопроходец: Маргарита Ковальчук Первопроходец: Маргарита Ковальчук

Маргарита Ковальчук стала первой российской профессиональной киберспортсменкой

Glamour
Меняю автомат на беспилотник Меняю автомат на беспилотник

Первое боестолкновение, где решающую роль сыграли беспилотные дроны

Популярная механика
Протрезветь до понедельника Протрезветь до понедельника

Василий Степанов о крепости духа и крепком алкоголе в фильме «Еще по одной»

Weekend
Щит от гиперзвука Щит от гиперзвука

Они быстро настигнут врага в любой точке мира

Популярная механика
Дворцовая площадь Дворцовая площадь

Отель Badrutt’s Palace — замок посреди Швейцарских Альп

GQ
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Гляжусь в тебя, как в зеркало: почему все помешались на эмпатии Гляжусь в тебя, как в зеркало: почему все помешались на эмпатии

Отрывок из книги «Лучшее в нас. Почему насилия в мире стало меньше»

Forbes
Иллюзия успеха Иллюзия успеха

Четыре истории о талантливых мастерах пускать пыль в глаза

Популярная механика
Чтобы дважды не вставать Чтобы дважды не вставать

Редактор Glamour проверила на себе новшества пластической хирургии

Glamour
Космические тоннели Космические тоннели

Существуют ли кротовые норы?

Популярная механика
Любовь в Южной Корее: как здесь строят отношения и относятся к браку Любовь в Южной Корее: как здесь строят отношения и относятся к браку

Отрывок из книги Су Ким «Как живут корейцы»

Forbes
Техпарад Техпарад

Новости мира науки и техники

Популярная механика
«Люби его таким, какой он есть»: большое заблуждение? «Люби его таким, какой он есть»: большое заблуждение?

Существует ли идеальная любовь?

Psychologies
Открыть в приложении