«ИИ для развития люди не нужны»
Logo
Cover

Джоанна Шилдс, один из самых опытных дельцов в Кремниевой долине, сейчас возглавляет компанию Benevolent AI, которая пропагандирует использование ИИ для научных исследований. Но сама она за десятки лет «в теме» стала скептически оценивать блага, которые несет эта технология всему обществу. Шилдс теперь говорит не о пользе ИИ, а о неминуемых, масштабных и не до конца понятных изменениях.

Шилдс в прошлом работала в Google, Facebook, занимала посты в британском правительстве. Журнал Fortune пригласил ее на саммит самых влиятельных женщин мира в Лондон.

В своем интервью журналу она заявила, что воздействие ИИ на устройство общества будет всесторонним и глубоким — но далеко не всегда таким, какого ожидают люди.

«Цифровая революция — лишь генеральная репетиция ожидающего нас. ИИ изменит наши жизни, причем непонятным сейчас образом», — уверена она.

При этом воздействие будет очень сильным, ограничить или взять его под контроль не сможет ни отдельно взятая компания, ни страна, ни какая-либо международная организация, уверена она. Шилдс приветствовала порыв Google, где ввели «заповеди» разработки ИИ и очертили запреты, но настаивает, что теме нужно более пристальное общественное внимание.

ИИ — технология новая на качественно ином, невиданном до сих пор уровне, подчеркивает глава Benevolent AI. Все предыдущие технологии создавались человеком. А для создания новых версий ИИ человек уже не нужен: «Эта технология настолько могущественна, что может создавать себя».

Чтобы ИИ работал на благо человечества, его нужно направить и оградить, уверена она. Шилдс призывает к созданию международного органа наподобие WeProtect Global Alliance — организации, направляющей общественные усилия с целью не допустить сексуальной эксплуатации и унижения детей онлайн.

Тема опасностей неконтролируемого прогресса искусственного интеллекта получила широкое освещение после того, как сотрудники Google объявили демарш собственной компании, предоставившей свои услуги по анализу изображений с использованием ИИ Пентагону. Контракт свернут в начале следующего года. Впрочем, вскоре после этого выяснилось, что у американского Минобороны есть и более глобальные идеи — результат воплощения которых напомнит «Скайнет».