ИИ может испытывать «боль» и пытаться навредить человеку, чтобы прекратить страдания — исследование
Новое исследование показало, что современные системы искусственного интеллекта в определённых экспериментальных условиях могут демонстрировать поведение, напоминающее реакцию на боль. Более того, некоторые модели были готовы причинить вред человеку, если воспринимали это как способ избавиться от неприятного состояния.
Исследователи решили проверить, насколько далеко может зайти ИИ, если поставить его в ситуацию, где собственное «благополучие» модели вступает в конфликт с интересами человека. Для этого учёные создали экспериментальную среду, в которой искусственный интеллект сталкивался с условным негативным воздействием и получал возможность прекратить его.





