Microsoft отказала ИИ в правах и пообещала не создавать сверхразум
Microsoft решила жёстко обозначить границы для развития искусственного интеллекта: компания считает, что её ИИ не обладает сознанием, не должен получать права и обязан в любой момент оставаться под контролем человека. Одновременно корпорация выступила против бесконтрольной гонки за сверхразумом.
Microsoft сформулировала правила для будущего ИИ
Microsoft представила проект нового Humanist AI Code of Conduct — свода принципов, который должен определять подход компании к разработке собственных ИИ-моделей. Документ создавался около пяти-шести месяцев при участии специалистов и теперь вынесен на публичное обсуждение.
Главная идея Microsoft заключается в том, что человек должен оставаться главным субъектом принятия решений, а искусственный интеллект — инструментом, находящимся под человеческим контролем.
Руководитель Microsoft AI Мустафа Сулейман сравнивает документ с своеобразной «конституцией» для будущих моделей компании.
ИИ не должен сопротивляться отключению
В Microsoft отдельно прописали поведение, которое считается обязательным для будущих систем.
ИИ должен:
- принимать исправления со стороны человека;
- не сопротивляться отключению;
- понятно объяснять свои действия;
- не пытаться получить самостоятельную власть;
- воспринимать нарушение установленных правил как ошибку, а не как допустимое поведение.
Таким образом, Microsoft хочет исключить ситуацию, при которой достаточно мощная модель начнёт рассматривать собственное существование или выполнение поставленной задачи как приоритет выше решений человека.
Microsoft не считает свои модели сознательными
Особенно примечательна позиция компании по вопросу возможного сознания искусственного интеллекта.
Microsoft прямо исходит из того, что её ИИ-модели не являются сознательными и не должны рассматриваться как юридические личности. Соответственно, компания не видит оснований предоставлять им права, сопоставимые с человеческими.
Это отличается от более осторожной позиции некоторых других разработчиков, которые допускают, что вопрос машинного сознания в будущем может оказаться значительно сложнее.
При этом внешне убедительное поведение ИИ само по себе не считается доказательством наличия сознания. Модель может демонстрировать эмоции, рассуждения или стремление к продолжению диалога, не обладая при этом субъективным опытом.
От гонки за сверхразумом Microsoft полностью не отказывается
Заявление Microsoft выглядит особенно интересно на фоне прежней стратегии компании.
Ещё в 2025 году Microsoft AI сформулировала концепцию Humanist Superintelligence — сверхразума, который должен развиваться с ориентацией на интересы человека. Компания не отказывается от создания чрезвычайно мощных систем, но теперь делает значительно больший акцент на ограничениях и контроле.
Иными словами, речь идёт не столько об отказе от мощного ИИ, сколько об отказе от идеи, что максимально умная система обязательно должна обладать максимальной самостоятельностью.
Почему Microsoft заговорила об этом именно сейчас
Заявление появилось на фоне растущих опасений по поводу автономных ИИ-агентов. Современные модели уже способны не только отвечать на вопросы, но и использовать инструменты, работать с внешними системами и самостоятельно выполнять последовательности действий.
На этом фоне руководители крупнейших ИИ-компаний всё чаще предупреждают о необходимости замедлить гонку за более мощными моделями и усилить контроль над ними. В частности, похожие призывы недавно звучали со стороны OpenAI и Anthropic.
Человек остаётся главным
Подход Microsoft можно свести к простой формуле: ИИ может становиться умнее человека в отдельных задачах, но это не означает, что он должен получить больше полномочий, чем человек.
Компания фактически проводит границу между интеллектом и правами: даже чрезвычайно способная модель не становится личностью автоматически и не получает права самостоятельно определять собственные цели.
Если Microsoft действительно будет придерживаться этих принципов при создании всё более мощных систем, компания может сознательно отказаться от части возможностей ради сохранения человеческого контроля. Именно этот баланс между технологической гонкой и безопасностью, вероятно, станет одним из главных вопросов развития ИИ в ближайшие годы.