Большинство экспертов сходится во мнении, что в будущем человек будет работать в связке с системами искусственного интеллекта. Кто-то называет это будничным сотрудничеством, кто-то использует термины «симбиоз» и даже «киборгизация». Предполагается, что гибридные решения, принятые людьми и машинами, будут более взвешенными и продуманными. Но, как отмечает профессор MIT Дэвид Минделл, на практике все складывается иначе.
Примером может послужить случай ДТП с участием робомобиля Uber, в результате которого погиб пешеход. За рулем машины сидел водитель, однако в опасной ситуации она не успела среагировать и взять управление под свой контроль. Позднее стало известно, что водитель не следила за движением, а смотрела видео на смартфоне.
Эксперты считают, что системы такого типа предъявляют человеку нереалистичные требования. Алгоритм выполняет работу автономно, но внезапно может отключиться.
В этих условиях человек должен постоянно быть начеку. При этом реальный риск возникновения опасной ситуации зачастую минимален.
Иногда оператор слишком доверяет алгоритму и не может объективно оценивать действия системы. Чаще всего с этим сталкиваются врачи, которые используют в работе автоматизированные программы диагностики и прогнозирования. Хотя финальное решение принимает доктор, он все равно частично подчиняется ИИ.
Ситуацию усугубляют маркетинговые легенды, которые продвигают корпорации. Так, IBM подключала к суперкомпьютеру Watson больницы по всему миру, однако компания преувеличивала возможности устройства. Медицинский ИИ неоднократно совершал врачебные ошибки, а IBM стали больше интересовать контракты со страховыми компаниями, а не реальные исследования.
Специалисты по компьютерным технологиям признают, что пока гибридные связки человека и машины далеки от совершенства. Если их не доработать, то катастроф не избежать.
Более того, у общества может сформироваться негативное восприятие искусственного интеллекта и сопутствующих технологий. Некоторые аналитики допускают, что в результате наступит «зима ИИ» — так в 1980-е называли период застоя в развитии машинного интеллекта, вызванный всеобщим разочарованием.
Однако наладить взаимосвязь между человеком и алгоритмом не так просто, как кажется. Во-первых, люди и машины используют разные системы знаков, что затрудняет коммуникацию в экстренной ситуации. Вторая проблема — это загадка ИИ.
Многие алгоритмы устроены по принципу черного ящика, так что никто — даже сами разработчики — не знает, как именно они принимают решения. Причем чем сложнее и «умнее» система, тем более закрытой она оказывается.
Некоторые эксперты предлагают разработчикам исходить из потребностей человека и создавать алгоритмы, предназначенные для общения с людьми. Инженерам следует изучать психологию, чтобы лучше адаптировать ИИ к реальной коммуникации. С этим согласен и профессор Дэвид Минделл: «Компьютерным наукам придется пройти долгий путь, чтобы научиться взаимодействовать с людьми».
О необходимости исследовать психологию говорят и в контексте этики. Многие разработчики проектируют сложные алгоритмы, которые напрямую влияют на жизнь человека, без какой-либо предварительной этической оценки. Именно поэтому эксперты считают, что в будущем гуманитарные дисциплины станут стандартом при подготовке специалистов в области ИИ.
