Инвестиции крупных корпораций в технологии искусственного интеллекта — это первый шаг к овладению мыслями пользователей, считает Мередит Уиттакер, соосновательница института AI Now и ведущий эксперт по ИИ в Google.
Компании уже владеют массивами данных о пользователях сети, но пока эта информация включает лишь результаты наших действий в интернете: фотографии, сообщения, клики и другую активность.
В будущем, когда появится первое поколение нейроинтерфейсов, база данных пополнится мыслями пользователей.
Над подобными продуктами уже работает Facebook, а также стартап Илона Маска Neuralink. «Ваши мысли будут принадлежать им», — заявила Уиттакер на конференции Artificial Intelligence 2018 в Сан-Франциско. Ее цитату приводит Business Insider.
По ее словам, такой сценарий вселяет ужас, однако он вполне реален. Другой вопрос — как именно будут хранить информацию о пользователях и насколько эти данные будут защищены.
Эксперт допускает, что некоторые корпорации будут сотрудничать с властями и передавать им архивы мыслей по первому запросу.
Другая проблема, с которой человечество рискует столкнуться в ближайшем будущем, — это предвзятость алгоритмов. ИИ-системы уже не раз уличали в расовой дискриминации, которую — намеренно или нет — заложили разработчики. Современные системы распознавания лиц постоянно ошибаются, но государство все равно применяет их на практике. В Китае камеры слежения с поддержкой ИИ уже стали частью повседневности, Европа же пока пытается найти им применение на фоне дискуссий о нарушении приватности.
Уиттакер опасается, что на рынке будут доминировать компании-монополисты, во главе которых будут стоять исключительные белые состоятельные американцы мужского пола. «На данный момент в мире существует примерно семь компаний, которые готовы производить ИИ-решения в больших масштабах», — отмечает исследовательница.
О похожем сценарии предупреждал и основатель блокчейн-стартапа SingularityNET профессор Бен Герцель. Ситуацию, при которой технологии развиваются по западноцентричной модели, он называет цифровым колониализмом.
