В шесть месяцев ребенок и бровью не поведет, если игрушечный грузовик, съехав со стола, вдруг зависнет в воздухе. Но если провести тот же опыт в девять месяцев, он сразу поймет, что здесь что-то не так. К этому возрасту он уже познакомился с идеей гравитации.
«Никто не рассказывает ребенку, что предметы должны падать», — говорит Ян Лекун, главный по ИИ в Facebook и профессор Университета Нью-Йорка. А поскольку у них еще не очень развиты моторные навыки, они узнают о мире в основном из наблюдения. Этот же подход может оказаться важным для исследователей, которые надеются расширить границы искусственного интеллекта, пишет MIT Technology Review.
Глубокое обучение достигло большого прогресса в сенсорных способностях, таких как зрение. Но ему пока не удается объединить их с суждением, основанным на концептуальной модели реальности. Другими словами, машины до конца не понимают окружающий их мир, и из-за этого не могут взаимодействовать с ним. Новые технологии помогают обойти эти ограничения — к примеру, давая машинам нечто вроде рабочей памяти, чтобы они, постигая базовые знания и принципы, могли накапливать их и использовать в будущем.
Но Лекун считает, что это только один из кусочков мозаики. «Очевидно, мы что-то упускаем», — сказал он. Ребенок может понять, что такое слон, пару раз увидев его на фотографии, тогда как алгоритмам глубокого обучения нужны тысячи, если не миллионы изображений. Подросток может научиться водить машину за 20 часов практики, а алгоритму обучения с подкреплением нужны десятки миллионов попыток, во время которых он совершает нелепые ошибки.
Ответ, считает ученый, в недооцененной разновидности глубокого обучения, которая называется спонтанным обучением или обучением без учителя (unsupervised learning). В то время как алгоритмы обучения с контролем и с подкреплением учат достигать цели при помощи человека, спонтанное постигает закономерности самостоятельно.
В последние годы такие алгоритмы получили распространение в обработке естественного языка благодаря способности находить связи между миллиардами слов. Но основная масса исследований в других областях основана на других видах глубокого обучения.
Лекун рассчитывает, что эту тенденцию можно будет преодолеть. «Все, что мы, люди, изучаем — почти все — мы изучаем через самообучение. Есть небольшой процент того, что мы изучаем под надзором, и крошечный объем того, что мы изучаем с помощью подкрепления», — сказал он.
Что это значит на практике? Ученые должны начать фокусироваться на временных предсказаниях. Другими словами, обучать большие нейросети предсказывать вторую часть видео по первой. Не все в нашем мире поддается прогнозированию, но это полезный навык, который развивает ребенок, понимающий, когда машинка должна упасть.
Как только машины приобретут эти навыки, они смогут применять их на практике, например, прогнозируя движение других автомобилей на дороге. В конечном итоге, ИИ сможет выработать модель мира, которая сможет предсказывать будущее его состояние. И тогда перед нами откроется новый спектр возможностей. Лекун убежден: «Следующая революция ИИ будет спонтанной».
В начале года эксперты MIT попытались выявить закономерности развития принципов обучения ИИ и предсказать методы, которые станут главенствовать в 2020-х. По их мнению, эра глубкого обучения подходит к концу.
