Дарио сказал это во время интервью с американским Советом по международным отношениям. По его мнению, чем более развитым становится ИИ, тем больше он напоминает человека: «Я понимаю, что это звучит безумно. Но мы создаём системы, которые делают те же вещи, что и люди. Они делают их не хуже нас. Они обладают человеческими когнитивными способностями. Если что-то выглядит как утка и крякает как утка, то это, вероятно, и есть утка».
Так глава стартапа ответил на вопрос эксперта по данным Кармен Доминго о целесообразности назначения Кайла Фиша на должность исследователя «благополучия ИИ». С конца 2024 Фиш по заказу Anthropic изучает, способен ли ИИ испытывать чувства и нуждаются ли нейросети в моральной защите. Сейчас учёный рассматривает спорный вопрос о теоретической разумности ИИ-моделей.
Глава Anthropic пояснил, что компания рассматривает возможность дать моделям ИИ своеобразную кнопку с надписью «Я увольняюсь». Если модель будет недовольна задачей от пользователя, она сможет её нажать. По мнению Амодея, если модель будет часто присылать этот сигнал, компания-разработчик будет обязана разобраться в ситуации. Учёный рассчитывает выяснить, какой тип задач вызывает у ИИ дискомфорт.
Это предложение раскритиковали пользователи X и Reddit. Как отметил один из них, подобные идеи поощряют необоснованный антропоморфизм. ИИ не обладает субъектностью, поэтому не проявляет человеческие качества, а только имитирует их.
Пользователи говорят, что отказ модели выполнять запрос свидетельствует о недостатках в её обучении, а не о реальных эмоциях или переживаниях.
Скорее всего, ИИ просто копирует поведение людей, описанное в огромном количестве текстов, на которых его обучали. Например, в 2023 году пользователи жаловались, что ChatGPT начал лениться зимой, предположительно под влиянием обучающих данных о зимних праздниках. Подобные жалобы возникали и летом, когда пользователи предположили, что модель Claude от Anthropic стала менее продуктивной из-за описаний летних каникул.
Несмотря на кажущуюся абсурдность идеи, некоторые исследователи не исключают, что в далёком будущем ИИ действительно сможет испытывать субъективные переживания. Это остаётся спорной гипотезой, которую компания Anthropic решила изучить подробнее.
Пока искусственный интеллект всё же остаётся инструментом, не способным реально испытывать страдания или боль. Поэтому появление у него кнопки отказа от задачи выглядит скорее эксцентричной задумкой, чем практической необходимостью.
Это не первое спорное утверждение Дарио Амодеи. Ранее он сообщил, что ИИ будет писать 90% кода в ближайшее время, из-за чего большинство программистов станут не нужны. С ним не согласился глава IBM Арвинд Кришна: по его мнению, ИИ только добавит людям работы.
