Нужно понять, чего бояться
Область исследований ИИ со стороны выглядит странно. Все ИИ-помощники и инструменты, которые может испытать обычный человек, по-прежнему достаточно глупы. Они могут найти информацию в интернете, перемножить большие числа или перевести мили в километры, но полноценного диалога, как с равными, с ними не выстроить. А ведь это именно тот минимум, который представляется при упоминании искусственного интеллекта.
Современные ИИ-помощники не понимают контекст, вряд ли оценят ваш тонкий юмор, забудут недавние реплики. Разговаривая с Siri, трудно проникнуться идеями ИИ-скептиков, вроде Илона Маска, обещающего апокалипсис и войну с роботами. Напомним, предприниматель верит, что ИИ для человечества опаснее ядерного оружия.
За подобное отношение его критиковал бывший председатель совета директоров Alphabet Эрик Шмидт. Специалист, который в 1980-е годы получил степень доктора наук по компьютерным технологиям, напротив, уверен, что ИИ принесет человечеству только добро: люди станут умнее, будут меньше болеть и жить дольше.
Но стоит отметить, что именно громкие заявления и алармизм во многом приводят к существующему повышенному интересу к этой технологии. При этом лучшие умы не могут прийти к одинаковому пониманию сути ИИ. В одном из своих известных споров Илон Маск и Марк Цукерберг попеременно обвиняли друг друга в полном непонимании ИИ. Чего же можно требовать от простых смертных? А без единой трактовки сложно понять, чего боится Маск и чего бояться нам.
Запретите!
Делать громкие заявления об искусственном интеллекте и бояться его — давняя традиция. Но в 2018 году эта боязнь вылилась в явный протест. Его вряд ли можно назвать эффективным, но ярким — вполне. Летом 2400 ученых, предпринимателей и активистов подписали письмо-клятву в ООН с призывом запретить автономные машины для убийства.
Запрета потребовали Илон Маск, сооснователь DeepMind Демис Хассабис, его команда, участники и организаторы Google Xprize Foundation.
Главное опасение подписавшихся в том, что человек доверяет ИИ нечто слишком важное — жизнь. По их мнению, машина не должна решать, кого убить, а кого нет. В ООН к их требованиям присоединился целый список стран. Представители потребовали создать конвенцию по аналогии с той, что запрещает химоружие.
Вот только проблема была в том, что когда запрещали последнее, оно существовало и использовалось. А, а ИИ-убийц по-прежнему нет. Как раз на это указали российские дипломаты, отказываясь поддерживать инициативу.
Позиция России по этому вопросу понятна. Владимир Путин еще в сентябре прошлого года сформулировал отношение к автоматизированным военным системам и ИИ в целом. Он заявил, что страна, добившаяся лидерства в создании искусственного интеллекта, «будет властелином мира».
Против запрета роботов убийц выступили США, Израиль, Китай и другие страны, которые активно занимаются их развитием. И либо правительства этих стран скрывают наличие рабочего ИИ, способного принимать самостоятельные решения, либо, что, более вероятно, эти разработки уже трансформировались в огромный рынок, терять который никто не хочет даже под давлением активистов.
Совершенствование ИИ систем приведет к тому, что автоматы, пулеметы и дроны-убийцы станут более эффективными. В них можно заложить максимально точные критерии для убийства, прописать сценарий совершения убийства, но в итоге инициатором все равно остается человек. Это просто более растянутый во времени и пространстве процесс нажатия курка.
И в очередной раз проблема сводится к спору Цукерберга и Маска о непонимании ИИ. Пока единого определения не будет, активистам и властям бесмысленно договариваться, как внутри своих структур, так и между ними.
Вещи страшнее автономных танков
Концентрируясь на конкретных приложениях ИИ, мы склонны упускать из внимания его глобальное влияние на человечество. Рассуждая о том, может ли дрон-убица сам принять решение или оно продиктовано настройками, мы упускаем, что ИИ уже приводит к огромным изменениям, но только в другой плоскости.
Вряд ли именно автономные танки сыграют важную роль, хотя изощренные способы убийства были всегда. Действительно страшный и фундаментально влияющий на общество тренд — это применение ИИ для контроля. Никогда у диктатур не было такого эффективного инструмента, чтобы взять всех под колпак.
Желающим усилить контроль режимам не нужен приход сильного ИИ. Все их желания вполне можно реализовать существующими сегодня технологиями.
То, что скромно называют ИИ-методы, уже может отследить любого человека, оценить его предпочтения, предсказать желания. Слежка — это узкая специализация, а в решении узкоспециализированных задач ИИ нет равных.
Весть 2018 год системы слежки не переставали совершенствоваться. В частности, росла точность распознавания лиц: за год она увеличилась на 80%, а лучшими на этом поприще стали китайские алгоритмы. Распознавание лиц окончательно ушло в массы. Помогли этому новые iPhone и прочие устройства, использующие эту технологию. Люди теперь добровольно улыбаются ИИ, снимая блокировку со своих гаджетов.
ИИ наделяет властью компании разных масштабов. Эксперты рассказывали, как ИТ-компании передавали свои разработки силовикам, полицейским. Появились мнения, что подобные алгоритмы приведут к дискриминации на государственном уровне. А наиболее яркой — и, вероятно, эффективной — акцией стали ротесты внутри Google против участия компании в военных проектах Пентагона. От этого контракта компания в итоге пообещала отказаться.
Однако на место Google придет другая корпорация — ведь сейчас именно в таких приложениях методы ИИ максимально эффективны. Если и выбирать, чего бояться, то подумайте о тотальной слежке, дискриминационных системах государственного уровня и усиленных ИИ тоталитарных режимов. А их гражданам ИИ упростит выбор, позволяя меньше думать, реже самостоятельно принимать решения и почти не сомневаться.
Искусственный интеллект способен привести к расцвету авторитаризма и усилить неравенство заявил в прошлом году израильский историк и футуролог Юваль Ной Харари, однако угрозу всерьез воспринимают немногие, считает он.
Харари также упоминал проблему фальшивых новостей, на которые в 2018 году ИИ заставил смотреть по-новому. По его словам, современная модель распространения контента катастрофична. Она легко позволяет распространяться фейковым новостям. Одна из шуток прошедшего года — замена лиц порномоделей на лица знаменитостей — показала, как ИИ сможет влиять на новости будущего уже очень скоро. Так называемые дипфейки заставили говорить всех о том, что будет с видеоконтентом дальше. Какова цена видеодоказательств, если видео может быть создано ИИ.
К счастью в прошедшем году об ИИ не только говорили. Разработчики добились многого, и ретроспектива этого тоже помогает понять, что же все-таки может реальный ИИ.
Что же смог ИИ в 2018?
Большая часть махинаций и домыслов вокруг ИИ возможна из-за того, что порой даже сами программисты не до конца понимают, как функционирует этот «черный ящик». Но все же есть некоторая база. Например, Финский университет летом собрал небольшой курс «для всех», в котором доступно объясняется, что ИИ может, а что нет. Через призму подобных курсов гораздо проще трезво смотреть на ИИ.
Машинное обучение и другие методы в прошедшем году улучшали все, что только можно. Так, в Великобритании полицейские начали использовать ИИ ради помощи в нераскрываемых делах.
ИИ смог продвинуться в медицине. Алгоритмы считаются тем, что сделает медицину доступнее, дешевле и эффективнее. В Японии они будут диагностировать рак. При этом ИИ не только улучшил свои способности к предсказанию болезней, но и достиг успехов в бюрократии. В США регулятор одобрил применение алгоритмов при диагностике сердечной недостаточности. В целом здравоохранение одна из самых благодатных областей для ИИ.
На протяжении года ИИ набирал аппаратную силу. Производители продолжили клепать железо специально для нужд машинного обучения. Под конец года IBM и Nvidia представили мощнейшую систему для работы с ИИ. Система продемонстрировала пропускную способность 120 Гбит/с.
Большая часть новостей, связанных с ИИ, в 2018 году была прямо или косвенно связана с Китаем. Так, алгоритм местной Alibaba прошел тест Тьюринга. Локальные производители демонстрировали собственные ИИ-чипы.
Были и забавные истории. Хайп вокруг ИИ и одновременно сложность с доступом к качественным базам данных привели к появлению особого вида ИИ-мошенников. Это компании, которые в погоне за легкими инвесторскими деньгами симулировали работу ИИ, нанимая для этого людей. Две волшебных буквы в пресс-релизе добавляли капитализации.
При этом ИИ становился все доступнее для широких масс. Раньше для этого требовалось большое финансирование и мощности. А сейчас компании уровня Microsoft переориентируют на это бизнес и предоставляют все, что нужно, удаленно. Через API компания позволяет решать стандартный набор задач — распознавание изображений и видео, машинный перевод и распознавание речи. И теперь нет необходимости глубоко в этом разбираться.
Возможно, мы доживем до настоящего ИИ
Есть вероятность, что застать сильный ИИ удастся и нашему поколению. Многие связывают это с интенсивным развитием китайской науки. Страна уже инвестирует огромные деньги в эту отрасль. К 2020 году только по ИИ-направлениям будут обучать специалистов 100 факультетов — сейчас их 20. За последний год страна еще более явно обозначила важность подобных разработок для нее. Один только Шанхай пообещал привлечь $15 млрд на развитие ИИ.
Есть прогноз, что скачок в ИИ случится вместе с появлением квантовых компьютеров — тогда обучение алгоритмов мгновенно выйдет на иной уровень. В США в рекордные сроки выделили $1,2 млрд на разработку квантового компьютера. Так что в коротком промежутке могут произойти прорывы сразу в двух самых обсуждаемых областях.
Свое мнение у известных аналитиков. McKinsey обещает, что ИИ достаточно скоро уничтожит целые сектора бизнеса. При этом каждая пятая относительно крупная компания уже никогда не сможет перейти на ИИ-модель ведения бизнеса. Несмотря на это, они же прогнозируют, что «ИИ принесет экономике дополнительные $13 трлн к 2030 году».
К этому же времени, по мнению футуролога Рэя Курцвейла, должен появится и разумный ИИ. Но Курцвэйл в принципе отличается оптимизмом по многим вопросам — например победу над старостью он ждет в 2050 году.
Gartner попытался проанализировать ситуацию с ИИ-гаджетами. Специалисты этого агентства считают, что «в срок от двух до пяти лет ИИ-устройства появятся у каждого человека».
Есть и иные мнения. Часть экспертов предупреждает, что развитие и ажиотаж вокруг ИИ идет 20-годичными циклами. Текущий заканчивается в ближайшее время, а дальше нас ждут 20 лет застоя.
На фоне всего этого остается просто дождаться результатов. По крайней мере, в 2019 году работу из-за ИИ мы не потеряем — для этого есть много более реальных причин.
