Когда на Amazon появляется книга за $23,6 млн, над формирующим цены алгоритмом потешаются. Но те же «ошибки» происходят и в других областях, где применяют ИИ. И в случае с финансовыми рынками будет не до смеха, предупреждает профессор Университета Халла Дионисиос Деметис. О последствиях проникновения алгоритмов в разные области жизни он рассуждает на страницах Conversation.

Он уверен, что человечество уже находится во власти алгоритмов, поручая им одну из фундаментальных функций мышления — принятие решений.

ИИ — это первая технология, управляющая людьми, тогда как раньше человек создавал технологии, которыми управлял сам, подчеркивает Деметис.

«Теперь технология развилась до степени, где она использует и даже контролирует нас», — указывает ученый. Причем произошло это по доброй воле, и влияние ИИ все больше расширяется.

Опасно это потому, что из-за принципа черного ящика объяснить выводы алгоритма невозможно. Простой наблюдатель имеет доступ лишь к информации на входе и решениям.

Наиболее выпукло опасности применения таких алгоритмов показывает биржа, указывает профессор. Сейчас алгоритмическая торговля отвечает примерно за 85% операций на финансовых рынках. При этом ежесекундно в попытке обыграть друг друга соревнуются тысячи алгоритмов, которые распоряжаются миллиардами долларов. В 2010 году это привело к так называемому Flash Crash — почти мгновенному падению капитализации крупнейших американских компаний на 9%, то есть примерно на триллион долларов. К концу торгового дня потери были почти нивелированы, а пятимесячное расследование показало, что никакой ошибки или злого умысла не было — просто алгоритмы увидели способ заработать для своих создателей пару миллионов.

Можно представить, что за эти минуты падения поседел не один аналитик, пытавшийся объяснить или предсказать динамику индекса. Деметис считает, что в такие моменты люди на бирже лишь мешают. И напоминает, что при похожем падении в 1987 году в некоторых конторах на Уолл-стрит просто перестали брать трубку.

С тех пор политика невмешательства лишь набирает обороты. И, вполне возможно, приближает нас к необъяснимому кризису алгоритмической торговли.

«Операторы торговых систем пришли к выводу, что решения людей лишь мешают эффективности рынков», — указывает ученый.

Если вам кажется, что от бирж можно дистанцироваться, ИИ все равно настигнет вас. Алгоритмы принимают все больше решений за юристов, банкиров и работников отдела кадров. Мы даже доверяем им решать, может ли подозреваемый остаться на свободе, выплатив залог, или должен дожидаться суда в тюрьме.

Сейчас — самое время взвесить последствия, подчеркивает Дионисиос Деметис: «Связи между людьми и технологиями укрепляются, и мы должны тщательно обдумать, к чему ведет наша усиливающаяся зависимость от алгоритмов. Человеческие решения заменяются алгоритмическими, и по мере этого мы становимся инструментами, чья жизнь определяется машинами и непреднамеренными последствиями их вердиктов».