Модель распознавания естественных языков под названием ALBERT, созданная в Google AI, заработала 92,2 пункта в стэнфордском тесте SQUAD, в котором нужно было отвечать на вопросы, и 89,4 в тесте на оценку верности понимания языка GLUE. Это наивысшие показатели на сегодня. В тесте RACE на понимание прочитанного английского текста ИИ занял второе место, сообщает VentureBeat.

ALBERT — это новейшая версия ИИ BERT, созданного специалистами Google и открытого для всеобщего использования. В ее основе лежат «методы сокращения параметров для снижения нагрузки на память и повышения скорости обучения BERT», говорится в статье, опубликованной на OpenReview.net. Материалы исследования будут представлены на конференции, которая пройдет в апреле 2020 в Аддис-Абебе, столице Эфиопиии.

В июле Facebook представила собственную модель RoBERTa, созданную на основе BERT, а в мае Microsoft AI показала многозадачную глубокую нейронную сеть MT-DNN, которая добилась высших показателей в семи из девяти тестов GLUE. Она тоже разработана на BERT.

Каждая из них по производительности превосходит человека, но первое место сейчас удерживает ALBERT.

В августе Facebook объявила о создании консорциума партнеров по совместной работе над технологией естественной обработки языка. Группа займется вопросами обучения представлениям, пониманием контента, диалоговыми системами, вычленением информации, анализом настроения, обобщением, сбором и очисткой данных и переводом устной речи. Члены консорциума получат финансирование на свои исследования.