Ученые определяют абстрактное мышление как способность замечать закономерности и решать проблемы на концептуальном уровне. У людей вербальное, пространственное и математическое мышление можно измерить эмпирически, с помощью тестов на нахождение связей между геометрическими объектами и цветами. Однако, эти тесты не идеальны и дают сбой, если человек к ним хорошо подготовлен, пишет VentureBeat.
Для обычных нейронных сетей такие задачи по генерализации вызывают сложности. Результат проверки показал, что популярные модели нейросетей, вроде ResNet, плохо справляются с заданием, даже если их обучение и тестовые задания мало отличаются друг от друга, говорится в статье «Measuring abstract reasoning in neural networks».
Специалисты DeepMind разработали новый тип IQ-теста — генератора, создающего вопросы на основе абстрактного набора факторов, включая отношения прогрессии или такие характеристики, как цвет или размер.
С их помощью они разработали новую группу заданий — например, задачи на нахождение прогрессии применительно только к цвету линий — для тренировки абстрактного мышления у нейронных сетей. Он не только проверяет уровень абстрактного мышления, но и развивает эту способность у машин.
Большинство прошедших проверку моделей хорошо справились с тестами, самые лучшие набрали 75 баллов из 100 по эффективности. Исследователи обнаружили, что точность модели была тесно связана со способностью выводить закономерности из заданий. Но даже у чемпиона, нейросети Wild Relation Network (WReN), некоторые задания вызывали сложности: она не могла экстраполировать значение атрибута, которого не видела во время обучения.
Ученые намерены продолжать изыскания в этом направлении и предлагают всем желающим готовые наборы данных. По их мнению, абстрактное мышление поможет нейронным сетям, предназначенным для решения сложных визуальных задач, замечать закономерности среди набора пикселей — например, логические операции или арифметические прогрессии — и применять эти принципы в абсолютно новых для себя обстоятельствах.
На днях разработчики DeepMind сообщили, что их алгоритм научился играть в Quake III не хуже сильного игрока-человека. И продолжает совершенствоваться.