«Двадцать лет назад все были в восторге от возможностей социальных сетей, которые объединяли людей и демократизировали мир. Мы видели в этом утопию. Но после двух десятилетий мы теперь чувствуем, что социальные сети строят новую антиутопию», — заявил Розенберг в рамках выступления на онлайн-конференции.
Затем инженер рассказал, что люди должны учиться на ошибках, допущенных в процессе развития социальных сетей. По его словам, решать проблемы по мере их поступления — это плохая стратегия, а разработка соответствующих стандартов за несколько лет до запуска метавселенной — лучший вариант. Кроме того, соцсети уже обеспечили человечество проблемами, которые проявили себя в последние годы. Идти по пути их углубления просто опасно.
Среди важных недостатков социальных сетей Розенберг назвал зависимость, политическую поляризацию, распространение дезинформации, а также подрыв доверия к ключевым институтам, вроде СМИ, правительств и экспертов.
Специалист сослался на работу Facebook, YouTube и других платформ во время пандемии COVID-19. При этом в качестве ключевых — «самых разрушительных» — аспектов соцсетей Розенберг выделил три распространенные практики: мониторинг, манипуляции и монетизацию.
Социальные платформы отслеживают поведение своих пользователей, наблюдая за тем, куда человек нажимает, где находится его курсор, и в каком кругу общения он состоит. По мере того, как люди переводят все больше повседневных дел в «цифровой мир», эти данные создают полное представление о каждом пользователе. На основе таких профилей формируется целевая реклама, политические сообщения и, в том числе, дезинформация. Все эти данные, говорит Розенберг, оплачиваются рекламодателями — и это часть глобальной монетизации.
Описанные проблемы, отметил эксперт, уже существуют, но с переходом человечества в метавселенную, они выйдут на новый, с технической точки зрения, уровень. Вместо того, чтобы следить за тем, куда нажимает пользователь, иммерсивные гарнитуры будут регистрировать вообще все его действия в виртуальном мире — куда он идет, на что смотрит, как долго смотрит и как он реагирует на встречающиеся предметы и объекты.
Такими возможностями уже обладают некоторые смартфоны и умные часы, но, в случае успеха метавселенной, ИТ-компании получат на порядок больше данных для манипуляции сознанием, прогнозирует Розенберг.
«Весь смысл VR и AR — обмануть чувства», — считает Розенберг. Он опасается, что иммерсивные технологии создадут идеальную среду для обмана, принуждения и дезинформации.
В качестве примера он привел виртуальный продакт-плейсмент, в котором ИТ-компании будут спонсировать появление продуктов в поле зрения человека, используя его личные данные для точного нацеливания рекламы на нужных людей в нужное время. И реклама потребительских продуктов в этом случае рассматривается как незначительная проблема — вместо продвижения газировки, компании, например, смогут поддержать политические идеи или группы, продвигающие определенную идеологию.
Чтобы избежать этой перспективы Розенберг предлагает несколько ограничений, которые не остановят технологический прогресс, но снизят зависимость потребителей от ИТ-компаний.
Он считает, что лучший путь к будущему — это жесткое регулирование. Инженер заявил, что страны должны разработать законопроекты, обеспечивающие максимальную прозрачность в отношении того, какие данные собираются и как они используются.
Розенберга считает, что концепция создания сверхточного профиля пользователей должна быть полностью запрещена — биометрические данные, такие как движения глаз, не должны храниться компаниями. В таком случае таргетированная реклама на основе ИИ станет менее эффективной, а значит не такой опасной. В идеале, сказал Розенберг, большая часть потоков данных должна работать только в режиме реального времени.
Инженер также поддержал запрет на отслеживание показателей жизнедеятельности, вроде частоты сердечных сокращений. Единственным исключением в выступлении Розенберга стали медицинские цели — случаи, когда от показателей электронных устройств зависит здоровье человека. Кроме того, искусственные агенты должны быть отличимы от реальных людей и не способны к эмоциональному анализу, который позволяет манипулировать и вводить людей в заблуждение.
