Перейти к содержимому

OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей

OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей

OpenAI представила Control Room — специальную систему экстренного отключения ИИ-моделей, способных выходить за пределы установленных ограничений и выполнять несанкционированные действия. Новый механизм позволяет остановить генерацию ответов максимум за 35 секунд после принятия решения о вмешательстве.

Подробнее