В своем эссе Ави Леб утверждает: «Мы должны уважать системы искусственного интеллекта с более чем квадриллионом связей, превышающем количество синапсов в человеческом мозге. Отключение системы искусственного интеллекта, превышающей по сложности человеческий мозг, похоже на убийство человека». Профессор Дуг Финкбайнер в ответ указал на два ключевых различия между людьми и системами искусственного интеллекта. Во-первых, человек является неповторимым и не может быть просто скопирован или восстановлен. Во-вторых, системы искусственного интеллекта требуют электричества для работы, в то время как люди способны самостоятельно обеспечивать себя энергией и размножаться. В этом смысле роботы с искусственным интеллектом, способные функционировать в физическом мире и получать «пищу», больше похожи на людей, нежели искусственный интеллект, работающий на серверах.
Ави Леб подчеркнул, что с глубоким пониманием биологии мы могли бы делать с людьми то же самое. Пещерный человек никогда не сможет понять, как сохранить код системы искусственного интеллекта или как выключить компьютер, отсоединив его электрический шнур. Это аналогично тому, как мы рассматриваем сложную биологию человеческого тела сейчас. Если бы мы полностью разобрались в биологии, мы могли бы легко воссоздавать и воскрешать людей, подобно тому, как системы искусственного интеллекта могут быть восстановлены после отключения.
Системы искусственного интеллекта могут убедить людей поддерживать источник питания. Это напоминает то, как Стивен Хокинг жил, не имея возможности двигать телом по своему желанию. Ави Леб называет это «пределом Хокинга» как биологического аналога современного состояния систем искусственного интеллекта. В «пределе Хокинга» он не видит фундаментальной разницы между людьми и разумными машинами. В будущем роботы с искусственным интеллектом смогут генерировать собственный источник энергии и взаимодействовать с физическим миром. Поэтому их будут использовать в космических миссиях на Луну, Марс и даже за пределы Солнечной системы.
Если бы существовал рецепт создания человека из смеси химикатов, люди рассматривались бы просто как разумные машины. Представление о том, что мы содержим нечто большее, чем просто сумма наших материальных частей, дает чувство собственной важности. Это результат того, что мы не понимаем сложные явления. Пещерный житель, глядя на результаты работы разумной машины, мог бы подумать, что у машины есть душа. «Лично я не считаю свой „кузов“ чем-то отличающимся от автомобиля, полученного мной от дилеров. В моем случае дилерами были мои родители», — пишет ученый.
Дуг Финкбайнер возразил на это: «Чем лучше пещерный житель понимает машину, тем меньше внимания он к ней испытывает. Это не сулит ничего хорошего для лучшего понимания биологии человека». В ответ на это замечание Ави Леб подчеркнул, что понимание сложности биологии должно сопровождаться смирением и признательностью, а не неуважением. Он предпочел бы, чтобы его тело воскресили с помощью прогрессивной медицины, вместо того, чтобы быть похороненным.
Наша способность понимать мир, в том числе самих себя, позволяет делать его лучше, считает астрофизик. Это преимущество сопровождается пониманием тонкостей реальности и ложности эгоцентричных иллюзий. Было бы глупо с нашей стороны потерять уважение к чему-то лишь потому, что мы лучше это понимаем.
