СМИ стала доступна внутренняя переписка сотрудников Amazon, в которой они обсуждали проблемы чат-бота Q, которого недавно представила компания. На презентации разработчики заявили, что ответственно подошли к вопросу безопасности продукта, особенно к защите данных. Предполагалось, что Q не допустит утечку важной информации, потому что не будет использовать данные от клиентов Amazon для обучения.

В реальности дела обстоят иначе: бот раскрывает даже секреты самого Amazon, например, рассказывает, где находятся центры обработки данных компании. Он также сообщает пользователям о будущих продуктах AWS, которые официально не анонсировали. Это особенно иронично, учитывая, что Q создавался как корпоративный продукт, на который сможет положится крупный и средний бизнес.

ИИ-помощник подвержен галлюцинациям не меньше, чем другие модели подобного рода. Иногда Q даёт неверные и потенциально опасные ответы на деликатные вопросы, связанные с правом, финансами, медициной и анализом рынков. По словам сотрудника Amazon, некоторые ответы по юридическим вопросам могли бы довести настоящих правоведов до сердечного приступа.

В Amazon отрицают факт утечки и говорят, что не нашли проблем с безопасностью. Представители компании отмечают, что их сотрудник говорил о теоретически возможных, а не о свершившихся ситуациях. «Мы ценим всю ту обратную связь, что получили, и будет продолжать дорабатывать Q, который переходит из стадии предварительного просмотра в общий доступ». — сказали они.

Amazon Q сейчас доступен для бесплатного предварительного использования. Его позиционируют, как более безопасную и точную версию ChatGPT для корпоративных клиентов. В скором времени он сможет редактировать код и приводить источники процитированной информации. Стоить продукт будет дешевле конкурентов: $20 вместо $30 за похожие предложения других компаний.