Генеральный директор Microsoft Сатья Наделла призвал пересмотреть подход к безопасности искусственного интеллекта и встроить в инфраструктуру ИИ специальные механизмы экстренной остановки. По его мнению, компании не должны безоговорочно доверять даже самым продвинутым моделям: их необходимо контролировать с момента запуска, отслеживать каждое значимое действие и сохранять возможность немедленно вмешаться в работу системы.

Anthropic сделала новый шаг в сторону более жёсткого контроля за развитием ИИ. Компания договорилась с Accenture о создании команды независимых специалистов, которые будут работать непосредственно внутри Anthropic и проверять безопасность моделей Claude.

Anthropic привлекает Accenture в качестве независимого оценщика своих передовых ИИ-моделей. Специалисты компании будут не просто тестировать готовые версии Claude, а получат доступ к внутренним процессам разработки и смогут наблюдать за тем, как модели обучаются и принимаются решения об их создании и запуске.