Hitech logo

Искусственный интеллект

Разработчик обнаружил признаки собственного разума у ИИ от Google

TODO:
Георгий Голованов14 июня 2022 г., 10:03

Компания вызвала шумиху в соцсетях после того, как отправила в оплачиваемый отпуск сотрудника, который заявил, что чатбот, в разработке которого он принимал участие, обрел сознание. Инженер Блейк Лемойн числится в штате Responsible AI, подразделения Google, и до недавнего времени занимался разработкой модели LaMDA — проверял ее на наличие дискриминирующего языка и риторики ненависти.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Модель LaMDA была представлена компанией Google на прошлогодней конференции I/O, которая создавалась для улучшения разговорной речи голосовых помощников. Похожие модели используются в Gmail и в поисковиках компании, рассказывает Verge.

Подозрения Лемойна вызвали высказывания чатбота на тему его собственных прав и этики роботов в целом. В апреле он направил своему начальству доклад, озаглавленный «Разумен ли LaMDA?», в котором содержалась транскрипция диалога с ИИ. По мнению Лемойна, она доказывает, что чатбор разумен, поскольку выражает «эмоции и субъективный опыт».

Представители Google не усмотрели в LaMDA никаких следов сознания. «Наша команда — включая специалистов по этике и технологиям — рассмотрела заявление Блейка через призму наших „Принципов ИИ“ и проинформировала его, что свидетельства не подкрепляют его утверждения. Ему было сказано, что в LaMDA нет следов сознания (и есть много доказательств обратного), — заявил представитель компании Брайан Габриэл. — Сотни исследователей и инженеров беседовали с LaMDA, и у нас нет информации ни об одном из них, кто сделал бы такие далеко идущие выводы или очеловечивал бы LaMDA так, как это делает Блейк».

Тем не менее, Лемойн стоял на своем и опубликовал запись разговора с чатботом, якобы доказывающую его правоту. Вызвав на себя гнев юристов компании.

Компания отреагировала без восторгов на действия своего сотрудника, обвинив Лемойна в нарушении политики конфиденциальности. Тот нанял адвоката, который бы представлял ИИ, и поговорил с представителем комитета Палаты представителей по вопросам судопроизводства. В начале июня он был отправлен в оплачиваемый отпуск.

Осенью прошлого года в Великобритании к разумным животным причислили несколько новых видов: головоногих моллюсков (кальмаров и осьминогов) и десятиногих ракообразных, то есть лобстеров и омаров. Правда, никаких последствий для пищевой промышленности и ресторанов поправка в законодательство пока не предусматривает.