Hitech logo

искусственный интеллект

The New Yorker: Сэм Альтман — вышедший из-под контроля «вероломный манипулятор»

TODO:
Георгий Голованов6 декабря 2023 г., 12:03

Когда Сэма Альтмана неожиданно уволили с должности гендиректора OpenAI, совет директоров объяснил это крайне обтекаемой фразой об отсутствии с его стороны «искренности» в общении с правлением, что помешало ему исполнять свои обязанности. Позже, когда он триумфально вернулся, появилась информация о том, что мог скрывать Альтман от директоров. В журнале The New Yorker вышла подробная статья, в которой раскрывается манипулятивный характер отношений гендиректора с правлением.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Как пишет Чарльз Дьюиг, несколько месяцев проработавший в OpenAI ради сбора сведений, ряд членов правления считал Сэма Альтмана «манипулятивным и вероломным», и приводит в качестве примера ситуацию с Хелен Тонер, которую он пытался выгнать из совета директоров ранее.

Тонер, директор по стратегии Джорджтаунского центра безопасности и новым технологиям, навлекла на себя гнев Альтмана, когда выступила соавтором статьи о том, как различные ИИ-компании декларируют свою приверженность безопасности словами и действиями. В частности, Тонер сравнивает запуск ChatGPT в прошлом году с решением компании Anthropic, главного конкурента OpenAI, не коммерциализировать свою технологию, чтобы не поднимать волну хайпа вокруг ИИ.

Более зрелое и ответственное, по мнению Тонер, решение Anthropic выставило OpenAI в дурном свете, и ей пришлось извиняться за свои слова перед советом директоров. Но Альтману этого показалось мало, и он стал настаивать на ее выводе из правления. Он «настраивал их друг против друга» с помощью лжи и сплетен, заявил некий информированный источник. По мнению другого источника, со стороны Альтмана это не было манипуляцией, всего лишь неуклюжей попыткой избавиться от Тонер.

Все это совпадает с высказыванием Бреда Лайткэпа, операционного директора OpenAI, который во внутренней переписке заявил, что решение уволить Альтмана было сделано не в ответ на какое-либо должностное преступление или что-либо связанное с финансовой или деловой деятельностью компании, а также не с нарушением безопасности или конфиденциальности: «Это было нарушение коммуникации между Сэмом и правлением». В свете этого становится понятно, пишет Ars Technica, почему совет директоров не стал вдаваться в подробности, объясняя свое решение.

«Трудно сказать, кого члены правления опасались больше: разумных компьютеров или вышедшего из-под контроля Альтмана», — говорится в статье.

Вдобавок, Дьюиг не исключает, что совет директоров хотел также принудить Альтмана ответственнее относиться к своей задаче — созданию ИИ, который будет «служить на благо всему человечеству». Если это так, то их задумка окончилась полной неудачей: в результате Альтман стал почти что неприкасаемой фигурой в Кремниевой долине.

Хотя ИИ смог обойти человека в некоторых очень узких задачах, со здравым смыслом у него все еще очень плохо. Нейробиолог Кевин Митчелл пишет в своей книге «Free Agents: How Evolution Gave Us Free Will», что если создатели ИИ хотят наделить его разумом, то им нужно дать ему тело и свободу воли.