Logo
Cover

Принцип «черного ящика» не годится для науки, утверждают специалисты по статистике из Университета Райса. Точность и воспроизводимость всех научных открытий, сделанных с помощью технологии машинного обучения, сомнительна. Компьютерам не хватает одного крайне важного человеческого навыка.

1

С докладом на тему перспектив применения ИИ в научных исследованиях выступит профессор статистики, информатики и вычислительной техники Дженевера Аллен на ежегодной встрече Американской ассоциации содействия развитию науки (AAAS), пишет EurekAlert.

Вопрос, которым задается профессор Аллен: можем ли мы доверять открытиям, которые делают при помощи технологии машинного обучения, применяя ее к большим данным? «Ответ во многих случаях — возможно. Но не без перепроверки», — считает она.

Машинное обучение — область статистики и информатики, получающая информацию из наборов больших данных, а не следуя четким инструкциям. Чаще всего данные применяют для создания прогнозирующих моделей, которые позволяют машинам делать выводы на основании изученного материала. Проблема в том, что в большинстве случаев такие системы всегда находят ответ.

Они никогда не возвращаются назад с сообщением: «Я не знаю» или «Я ничего не открыл», потому что не обладают такой способностью.

В качестве примера профессор Аллен приводит неподтвержденные открытия в области онкологии. Так, в точной медицине важно найти группы пациентов, у которых схожий с точки зрения генома профиль, чтобы можно было разработать терапию, нацеленную на определенные гены. Машинное обучение хорошо подходит для этого.

Однако есть случаи, когда открытия оказываются невоспроизводимыми. Например, группы пациентов, выявленные в одних исследованиях, полностью отличаются от тех, что были найдены в других. Это происходит из-за того, что результаты работы компьютера не проверяются, а сама машина предельно уверена в правоте выводов.

Аллен убеждена, что широкое применение машинного обучения ведет к «кризису воспроизводимости» в науке. Это значит, что результаты значимого числа работ невозможно будет повторить другим группам исследователей. С ее точки зрения, единственный выход — новая компьютерная система, способная к конструктивной критике.

Другие ученые убеждены, что основная задача ИИ — трансформировать саму природу создания инноваций, а его потенциал — в умении предложить новые идеи в областях, на которые многие исследователи-люди предпочтут вовсе не тратить время.