В подкасте Dwarkesh Карпатый подчеркнул, что современные агенты ИИ «не работают должным образом». Они ограничены в интеллекте, недостаточно мультимодальны, не умеют эффективно пользоваться компьютером и не способны запоминать информацию при обучении. «У них когнитивные нарушения, и это просто не работает», — отметил он, добавив, что решение этих проблем потребует примерно десятилетия.

Агенты ИИ остаются одной из самых обсуждаемых тем в индустрии, и многие называют 2025 год «годом агентов». Эти виртуальные помощники способны выполнять задачи автономно — анализировать проблемы, составлять планы и действовать без постоянных подсказок пользователя. Однако, по словам Карпатого, нынешние системы далеки от этого.

В публикации на X Карпатый пояснил, что отрасль «воображает» будущее, где полностью автономные системы создают код без участия человека, а люди становятся «бесполезными». Он отметил, что предпочел бы видеть сотрудничество людей и ИИ, где агенты помогают программистам учиться и улучшать навыки на практике.

Ключевой проблемой остается качество создаваемого ИИ-контента. Если люди будут исключены из процесса, ИИ-слоп (низкокачественный контент) станет повсеместным. Карпатый хочет, чтобы агенты загружали документацию API, проверяли корректность работы и сотрудничали с пользователем, а не просто выдавали готовый код.

Его точку зрения разделяют и другие специалисты. Руководитель отдела развития ScaleAI Квинтин Ау в прошлом году указал, что вероятность ошибки у ИИ-агента при выполнении нескольких действий быстро растет. Например, если агент должен выполнить пять шагов для завершения задачи, шансы на успешное выполнение всех шагов составляют всего 32%.

Тем не менее, Карпатый не считает себя скептиком. Ученый отметил, что его оценка сроков развития технологий в 5-10 раз пессимистичнее, чем у многих энтузиастов, но при этом он сохраняет уверенность в долгосрочном потенциале отрасли.