Конференция Neural Information Processing Systems, проходящая в Канаде, собрала около 13 000 специалистов по искусственному интеллекту, нейронным сетям и машинному обучению со всего мира. Журналисты Venture Beat взяли в кулуарах интервью у одного из ведущих спикеров мероприятия — Джеффа Дина, старшего научного сотрудника Google Brain (Google AI).
В частности, он рассказал о новых тенденциях в производстве полупроводников, которые кажутся ему достаточно эффективными. Речь идет о появлении специализированных процессоров для решения узких задач. Это и уже распространенные графические процессоры, и тензорные процессоры Google (TPU), интегральные схемы, предназначенные для работы с библиотекой машинного обучения TensorFlow. Цели создания похожи: такие решения позволяют получить значительную прибавку в производительности по сравнению с универсальными процессорами.
Поэтому основной прогресс будет не в области центральных процессоров, а в разработке новой архитектуры для специализированных интегральных схем, уверен Дин.
ИИ инженер
Сам процесс производства тоже изменится. «У нас есть первые доказательства, что мы можем использовать машинное обучения для большей автоматизации и создания маршрутно-технологических карт. Фактически, модели машинного обучения могут научиться играть в размещение интегральных схем специального назначения (ASIC) на конкретном чипе, — пояснил Дин. — И у нас уже есть неплохие результаты с интегральными чипами, с которыми мы экспериментировали».
Экономный ИИ
Большие модели машинного обучения с их громадной вычислительной мощностью стали объектом критики за то, что расходуют много энергии и вносят вклад в загрязнение окружающей среды. Дин рекомендует своим коллегам обратить внимание на более эффективные алгоритмические методы, позволяющие добиться тех же целей с меньшим затратами. В качестве примеров таких решений он приводит многозадачное обучение и трансферное обучение.
«Я думаю, мы увидим еще больше многозадачного и многомодального обучения, в большем масштабе, чем прежде. Мне кажется, это будет довольно интересно, — заявил Дин. — И я думаю, возникнет продолжительная тенденция создания все более интересных моделей на устройстве — или на каких-либо потребительских устройствах вроде телефонов или типа того — для повышения эффективности работы».
Кроме того, Дин намекнул на появление новых продуктов Google, которые компания пока не выпускает. Похоже, речь идет о роботах, которые умеют действовать в неупорядоченной среде — например, в конференц-зале, где много стульев и людей.
Недавно Google представила новый алгоритм для сбора информации о выбросах парниковых газов и потенциале солнечной энергетики. Бесплатный онлайн-инструмент EIE начал работу в Европе после бета-тестирования в пяти городах США, Канады, Австралии и Аргентины.
