Основной критике авторы доклада подвергли политику хранения данных, сложившуюся между DeepMind Health и страховым фондом Royal Free Hospital NHS. Соглашение компаний предоставляет DeepMind доступ к медицинским записям 1,6 млн пациентов, которые используются для тестирования Streams. Это приложение должно помочь врачам правильно оценить риск острой почечной недостаточности. В 2018 Streams появится и в других фондах здравоохранения Британии.
Авторы доклада предупреждают о том, что приложение Streams ставит DeepMind в выгодное положение посредника: несмотря на то, что DeepMind использует для Streams открытый API, договор подразумевает хранение данных исключительно на серверах Google. Такая коммерческая модель очевидно работает против открытости и взаимодействия сетей, за которые якобы выступает сооснователь компании Мустафа Сулейман.
«В сфере ИТ есть множество примеров того, как компании запирают своих клиентов в системах, которые трудно изменить или заменить. Такая структура не в интересах общества. И мы не хотим, чтобы DeepMind ставило себя в положение, когда клиенты, например, больницы, были вынуждены оставаться с DeepMind, даже если это больше не выгодно с точки зрения экономики или медицины; мы хотим, чтобы DeepMind конкурировала в области качества и цены, а не насаждая юридические препоны», — говорится в заявлении компании.
Однако, эти и другие заявления отличаются от того, что происходит в реальности. Несмотря на техническую возможность взаимодействия сетей, она усложнена запретительными актами коммерческого контракта — и отсутствием негативной реакции властей в ответ на такое поведение.
Подозрения наблюдателей подкрепляются прошлым опытом. Бизнес-стратегия Google, например, состояла в том, чтобы превратить мобильную ОС Android — бесплатную для производителей оборудования — в глобального монополиста на рынке смартфонов, пишет TechCrunch.
Также аналитики выразили опасения по поводу того, что бизнес-модель DeepMind продолжает оставаться неясной. «Принимая во внимание сложившиеся обстоятельства и не имея четкого понимания бизнес-модели DeepMind Health, люди начинают подозревать, что есть некий скрытый экономический мотив или план. Мы не считаем, что так и есть на самом деле, но советуем DeepMind Health обеспечить прозрачность своей бизнес-модели и возможности придерживаться ее, вне зависимости от требований Alphabet. Как только идея скрытых мотивов укрепится в головах людей, ее будет трудно поколебать, невзирая на все усилия работать на благо общества», — говорится в докладе.
Напомним, DeepMind собирается предоставить свои услуги британскому трастовому фонду бесплатно, по крайней мере на пять лет. Такая щедрость вызывает вопросы, как именно компания собирается возвращать свои инвестиции.
Опасаются DeepMind и британские военные. Правда, их волнует не здравоохранение и скрытые экономические мотивы, а возможность искусственного интеллекта учиться на стратегических видеоиграх. Они считают, что так ИИ, который обучают в компании, сможет победить армию людей в потенциальном военном конфликте будущего.
