Алгоритмы занимают роль посредников во многих областях, от экономики до медицины и политики, а ученые пытаются объяснить поведение искусственного интеллекта и сделать его прозрачным для стороннего наблюдателя. Впрочем, есть мнение, что проникать внутрь этого «черного ящика» не обязательно. В конце концов, это не первая замкнутая система, которая попадается на пути ученых, пишет MIT Technology Review.

«Мы разработали научные методы изучения „черных ящиков“ сотни лет назад, но эти методы в основном применялись к живым существам, — говорит Ник Обрадович из Media Lab. — Мы могли бы использовать большую часть этих инструментов, чтобы изучать черные ящики ИИ».

Другими словами, ученые предлагают изучать ИИ-системы так же, как с давних пор изучают животных или людей: через эмпирическое наблюдение и эксперимент.

«Мы наблюдаем рост числа машин, которые принимают решения и исполняют их автономно», — говорит Айад Рахван, соавтор исследования. Поэтому их нужно изучать как новый класс агентов с собственным поведенческими паттернами и экологией.

Это вовсе не значит, что у ИИ появилось нечто вроде свободной воли. Но такой подход позволяет отойти от взглядов на ИИ как на пассивный инструмент, который следует изучать только с точки зрения его архитектуры, производительности и способностей. Вместо этого его следует воспринимать как действующее лицо, которое влияет и воздействует на окружающую среду, людей и машины.

К примеру, машинный бихевиорист может исследовать воздействие голосовых помощников на развитие ребенка. Или изучать влияние алгоритмов сервисов знакомств на романтические отношения между людьми. В целом, в сферу их интересов попадают все вопросы сотрудничества и сосуществования человека и машины.

«Мы все одна гигантская система из людей и машин, — говорит Обрадович. — Мы должны признать это и начать изучать ее под таким углом».

Инструмент для визуализации происходящего в черном ящике ИИ разработали специалисты IBM и Гарварда. Он основан на модели «sequence-to-sequence» и позволяет проверить каждое решение модели и найти причину ошибки.