OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей
OpenAI представила Control Room — специальную систему экстренного отключения ИИ-моделей, способных выходить за пределы установленных ограничений и выполнять несанкционированные действия. Новый механизм позволяет остановить генерацию ответов максимум за 35 секунд после принятия решения о вмешательстве.