Сооснователь Open AI: «Быстрое развитие — главное, что пугает в ИИ»
Logo
Cover

Грег Брокман, основавший в свое время некоммерческую организацию OpenAI вместе с Илоном Маском, Сэмом Альтманом и Питером Тилем, в преддверии слушаний в Конгрессе США пообщался с журналистами VentureBeat о последних достижениях в глубоком обучении и необходимости открытых дискуссий об искусственном интеллекте.

335

Подкомитет Конгресса по исследованиям и технологиям проводит 26 июня слушания на тему искусственного интеллекта, озаглавленные цитатой из комиксов про Человека-паука: «С великой силой приходит великая ответственность». Среди приглашенных участников дискуссии — директор Института языковых технологий и профессор Университета Карнеги — Меллон Джейми Карбонелл, главный научный сотрудник Счетной палаты США Тим Персонс, глава и сооснователь AI4ALL Фэй-Фэй Ли и уже представленный Грег Брокман.

О результатах дискуссии мы узнаем позже, а пока Брокман рассказал о факторах, которые определяют современное состояние ИИ: это данные, компьютеры и алгоритмы. ИИ учится поглощать все больше сырых данных, не подготовленных заранее человеком, изучает все больше навыков, наблюдая за действиями людей или учась на своих ошибках. Что касается вычислительных мощностей для обучения ИИ, то недавнее исследование Open AI показало, что с 2012 года их объем увеличивался в геометрической прогрессии, удваиваясь каждые 3,5 месяца. Это как если бы за шесть лет максимальный срок работы аккумулятора смартфона вырос с одного дня до 800 лет.

Такие быстрые темпы развития, по словам Брокмана, главное, что пугает в технологии ИИ. Потому что она несуе с собой изменения, которые почти невозможно отследить, особенно людям, далеким от ИТ. Правовые и социальные нормы не поспевают за прогрессом ИИ, и это вызывает законные опасения.

«Самое важное, что правительства должны сделать на правовом уровне — разработать методы оценки. Будущее трудно предсказать, потому что и настоящее мы понимаем плохо. В OpenAI мы работаем над рядом ключевых инициатив для принятия решений, таких как AI Index, но еще очень на многие вопросы нужно найти ответы», — говорит Брокман.

Такие технологии, как сильный искусственный интеллект, способный к самоосознанию, несомненно, повлияют на каждого. Поэтому, считает Брокман, очевидно, что об их применении общество должно быть не только поставлено в известность. Люди должны иметь возможность открыто обсудить все «за» и «против».

«Это одна из причин, почему я считаю важными эти слушания в Конгрессе и проведение открытых дискуссий, потому что сейчас трудно отделить один сигнал от шума — даже для тех, кто работает в этой отрасли», — сказал в завершение Брокман.     

Свой кодекс создателя ИИ опубликовала недавно и Google на фоне скандала по поводу сотрудничества с Пентагоном. В нем перечислены семь условий использования ИИ на благо человечества.