Созданы «гауссовы синапсы» для вероятностной нейросети
Logo
Cover

Ограничения традиционной архитектуры фон Неймана — предвестник «темной эры кремния», считают ученые из США. Чтобы предотвратить эту угрозу, они разработали двухмерное устройство, которое выходит за пределы бинарной логики и может стать основой нейроморфной компьютерной архитектуры будущего.

Надвигающаяся «темная эра кремния» — это неспособность всех или большинства устройств на микрочипе работать одновременно. Это происходит оттого, что устройство выделяет слишком много тепла. Архитектура фон Неймана — стандартная структура большинства современных компьютеров, которая основана на цифровом подходе («да» или «нет»), когда программные инструкции и данные сохраняются в той же памяти и делят один коммуникационный канал.

По этой причине операции с данными и получение инструкций невозможно выполнить одновременно, объясняют ученые из Университета штата Пенсильвания. Они разработали новое аналоговое устройство для вероятностных вычислений, пишет EurekAlert.

«Для комплексного принятия решений при помощи нейросети вам понадобится кластер суперкомпьютеров, которые разом будут использовать параллельные процессоры — миллион ноутбуков одновременно, которые заполнят футбольное поле», — описал проблему Саптарши Дас, один исследователей. Это серьезное ограничение для перспективной технологии — например, портативные медицинские устройства в принципе не могут работать таким образом.

Идея вероятностных нейронных сетей возникла еще в 1980-х, но для ее реализации нужны были специфические технологии.

Решение, предложенное Дасом и его коллегами, заключается в создании нейроморфной аналоговой статистической нейросети. Она будет работать на устройствах, дающих вероятностные ответы, которые затем сверяются с базой данных в компьютере.

Для этого они разработали полевой транзистор гауссова поля из 2D-материалов — дисульфида молибдена и черного фосфора. Эти устройства более энергоэффективны и выделяют меньше тепла, чем кремниевые, то есть идеально подходят для масштабируемых систем.

«Человеческий мозг без затруднений работает на 20 ваттах энергии, — объясняет Дас. — Он распределяет энергию на 100 млрд нейронов и не использует архитектуру фон Неймана».

Ученые подчеркивают, что проблема не только в энергии и тепле, но и в том, что становится все сложнее уменьшать размеры устройств.

Сейчас мы можем уместить на чипе приблизительно 1 трлн транзисторов, не больше. Но это недостаточно, если мы хотим продолжить повышать мощность компьютеров.

Разработчики испытали свою нейронную сеть на данных энцефалографа. Нейросеть, обученная на примерах ЭЭГ, проанализировала новые сигналы мозга и самостоятельно определила, спит человек или бодрствует. При этом тренировка не заняла много времени.

Авторы видят широкие возможности для внедрения вероятностных нейросетей в медицине, поскольку диагностика — это не всегда только «да» или «нет». Кроме того, диагностические приборы должны быть компактными и экономными в расходе энергии — тогда их смогут использовать повсеместно.

«Перехватчик» для вероятностных вычислительных машин разработали в этом году немецкие ученые. Устройство работает на основе скирмионов, крошечных магнитных вихрей, при помощи которых можно хранить информацию.