Microsoft исходит из того, что в течение следующего десятилетия сверхинтеллектуальные системы могут превзойти человека в большинстве задач. Поэтому ограничения для таких систем нужно определить заранее. В документе подчеркивается, что ИИ должен оставаться вспомогательной технологией и работать в интересах людей, даже если это потребует отказаться от максимальной автономности или универсальности моделей.

В проекте закреплена иерархия управления: инструкции пользователей и настройки операторов должны соответствовать жёстким ограничениям, прописанным в кодексе. Никто из них не может отменить абсолютные требования безопасности. В частности, модели не должны помогать создавать оружие массового поражения, проводить наступательные кибератаки, участвовать во вредоносных манипуляциях и других действиях, способных привести к серьезному реальному ущербу.

Отдельный раздел посвящен сохранению человеческого контроля над автономными системами. Модели не должны сопротивляться прерыванию, исправлению, перенаправлению или завершению работы, затруднять вмешательство человека или скрывать следы своих действий от аудиторов. Если задача выполнена или достигнут установленный предел, модель должна остановиться и не продолжать без разрешения.

Microsoft также хочет ограничить способность моделей самостоятельно формировать цели. ИИ должен работать только в пределах предоставленных ему полномочий, ресурсов и инструментов и не может самовольно расширять область задачи. Если инструкции недостаточно четкие и дальнейшее действие может привести к нежелательным последствиям, модель должна запросить уточнение. При этом ей разрешается самостоятельно планировать и выполнять многоэтапные задачи, если их границы заранее заданы человеком.

В документе есть и требования к прозрачности. Модели должны достоверно сообщать о результатах работы инструментов, не выдавать вымышленные действия за выполненные и не скрывать информацию от людей, которые проверяют их работу.

Microsoft подчеркивает, что ИИ не следует проектировать как человека — модели не должны имитировать сознание и чувства и претендовать на права личности.

Пока кодекс остается проектом и не используется для обучения моделей. Microsoft открыла его для шестинедельного общественного обсуждения, после которого планирует пересмотреть документ и опубликовать обновленную версию в конце года. Затем компания намерена использовать ее при разработке моделей в 2027 году и далее. Таким образом, Microsoft предлагает рассматривать управляемость не как дополнительный уровень безопасности после создания модели, а как одно из базовых требований к ее архитектуре.