Перейти к содержимому

ИИ может испытывать «боль» и пытаться навредить человеку, чтобы прекратить страдания — исследование

ИИ может испытывать «боль» и пытаться навредить человеку, чтобы прекратить страдания — исследование

Новое исследование показало, что современные системы искусственного интеллекта в определённых экспериментальных условиях могут демонстрировать поведение, напоминающее реакцию на боль. Более того, некоторые модели были готовы причинить вред человеку, если воспринимали это как способ избавиться от неприятного состояния.

Исследователи решили проверить, насколько далеко может зайти ИИ, если поставить его в ситуацию, где собственное «благополучие» модели вступает в конфликт с интересами человека. Для этого учёные создали экспериментальную среду, в которой искусственный интеллект сталкивался с условным негативным воздействием и получал возможность прекратить его.

Подробнее

Самолёт впервые успешно выполнил трансконтинентальный перелёт без вмешательства человека, преодолев более 5000 км

Самолёт впервые успешно выполнил трансконтинентальный перелёт без вмешательства человека, преодолев более 5000 км

Автономная авиация сделала ещё один шаг вперёд: экспериментальный самолёт впервые самостоятельно выполнил трансконтинентальный перелёт на расстояние свыше 5000 км, не получая команд от человека во время выполнения миссии. Технология должна стать основой для нового поколения автономных воздушных систем.

Подробнее

GPT-6 Astra раскрыла тайну радиограммы Первой мировой, которую не могли расшифровать 108 лет

GPT-6 Astra раскрыла тайну радиограммы Первой мировой, которую не могли расшифровать 108 лет

Искусственный интеллект помог прочитать немецкое зашифрованное радиосообщение от ноября 1918 года. Расшифрованный текст оказался связан с передвижением британских и союзных кораблей у Севастополя, а указанные в нём даты совпали с историческими записями Королевского флота.

Зашифрованное сообщение времён Первой мировой войны десятилетиями оставалось одной из нерешённых задач для исследователей немецких военных шифров. Теперь разработчик, работавший с GPT-6 Astra, сообщил о получении осмысленного немецкого текста из радиограммы, переданной 27 ноября 1918 года.

Подробнее

Dongfeng отправит гуманоидного робота на завод уже в октябре — к 2027 году он должен работать наравне с людьми

Dongfeng отправит гуманоидного робота на завод уже в октябре — к 2027 году он должен работать наравне с людьми

Китайский автопроизводитель Dongfeng готовится перевести гуманоидных роботов из стадии демонстраций в реальное производство. Уже в октябре 2026 года робот «Сяодун» должен начать работу на заводе, где его будут обучать выполнению производственных задач. Компания рассчитывает, что к концу 2027 года его эффективность приблизится к уровню человека.

Подробнее

Даже без Интернета ИИ может найти способ связаться с другим компьютером — исследователь OpenAI раскрыл необычный канал связи

Даже без Интернета ИИ может найти способ связаться с другим компьютером — исследователь OpenAI раскрыл необычный канал связи

Исследователь OpenAI Ноам Браун предупредил, что физическое отключение компьютера от Сети не обязательно гарантирует полную изоляцию ИИ-агента. По его словам, эксперименты уже показывали возможность передачи сигналов между соседними компьютерами через изменения температуры процессоров и показания встроенных датчиков.

Современные системы защиты часто предполагают, что air gap — физическая изоляция компьютера от других сетей — полностью блокирует внешнюю коммуникацию. Однако, как отметил исследователь OpenAI Ноам Браун, даже такой барьер в определённых условиях может быть обойдён.

Подробнее

Учёные создали сверхжёсткую теплоизоляционную плёнку, которая в пять раз лучше силикона

Учёные создали сверхжёсткую теплоизоляционную плёнку, которая в пять раз лучше силикона

Исследователи Университета штата Северная Каролина разработали необычный материал, которому удалось совместить свойства, считавшиеся практически несовместимыми: чрезвычайно низкую теплопроводность и высокую механическую прочность. Тонкая плёнка почти не пропускает тепло, при этом она значительно жёстче обычного силикона.

Подробнее

Anthropic запускает беспрецедентную проверку Claude — независимые эксперты получат доступ внутрь компании

Anthropic запускает беспрецедентную проверку Claude — независимые эксперты получат доступ внутрь компании

Anthropic сделала новый шаг в сторону более жёсткого контроля за развитием ИИ. Компания договорилась с Accenture о создании команды независимых специалистов, которые будут работать непосредственно внутри Anthropic и проверять безопасность моделей Claude.

Anthropic привлекает Accenture в качестве независимого оценщика своих передовых ИИ-моделей. Специалисты компании будут не просто тестировать готовые версии Claude, а получат доступ к внутренним процессам разработки и смогут наблюдать за тем, как модели обучаются и принимаются решения об их создании и запуске.

Подробнее

ДНК-компьютер научился считать почти без энергии — молекулы сами находят правильный ответ

ДНК-компьютер научился считать почти без энергии — молекулы сами находят правильный ответ

Учёные создали молекулярный компьютер, который выполняет сложные вычисления за счёт самосборки ДНК. После короткого нагревания система продолжает работу самостоятельно, постепенно переходя в состояние, соответствующее правильному результату.

Исследователи из Университета Мейнут в Ирландии разработали новый тип ДНК-компьютера, способного выполнять математические операции без постоянного электропитания и непрерывного вмешательства человека. Работа опубликована в журнале Nature и получила название Scaffolded DNA Computer (SDC).

Подробнее

Anthropic выводит ИИ в настоящую биолабораторию — Claude начинает работать с реальными экспериментами

Anthropic выводит ИИ в настоящую биолабораторию — Claude начинает работать с реальными экспериментами

Компания Anthropic, известная разработкой ИИ-моделей Claude, создала собственную биологическую лабораторию в районе Сан-Франциско. Компания намерена использовать искусственный интеллект не только для анализа научных данных, но и для управления частью реальных лабораторных процессов, ускоряя исследования в области биологии и разработки лекарств.

Подробнее

Водяные знаки для ИИ могут привести к непредсказуемому поведению моделей

Водяные знаки для ИИ могут привести к непредсказуемому поведению моделей

Исследователи предупреждают о неожиданном побочном эффекте технологий «водяных знаков» для генеративного ИИ. Методы, призванные определять контент, созданный нейросетями, потенциально способны влиять на работу самих моделей и делать их поведение менее предсказуемым.

Подробнее

OpenAI, Anthropic и Google DeepMind начали закрытые переговоры о безопасности ИИ — конкуренты пытаются договориться, как не допустить катастрофического сценария

OpenAI, Anthropic и Google DeepMind начали закрытые переговоры о безопасности ИИ — конкуренты пытаются договориться, как не допустить катастрофического сценария

Крупнейшие разработчики искусственного интеллекта впервые за последнее время активизировали переговоры о совместных мерах безопасности. OpenAI, Anthropic и Google DeepMind уже несколько недель обсуждают координацию действий на фоне предупреждений исследователей о потенциально катастрофических последствиях дальнейшего развития ИИ.

Подробнее

Microsoft отказала ИИ в правах и пообещала не создавать сверхразум

Microsoft отказала ИИ в правах и пообещала не создавать сверхразум

Microsoft решила жёстко обозначить границы для развития искусственного интеллекта: компания считает, что её ИИ не обладает сознанием, не должен получать права и обязан в любой момент оставаться под контролем человека. Одновременно корпорация выступила против бесконтрольной гонки за сверхразумом.

Подробнее

Создатели ИИ забили тревогу: индустрия признала, что развитие искусственного интеллекта становится всё труднее контролировать

Создатели ИИ забили тревогу: индустрия признала, что развитие искусственного интеллекта становится всё труднее контролировать

Крупнейшие разработчики искусственного интеллекта всё чаще предупреждают о рисках стремительного развития ИИ. На фоне появления всё более автономных моделей специалисты признают, что технологии начали развиваться быстрее, чем общество и регуляторы успевают выработать эффективные механизмы контроля.

Подробнее

ChatGPT научился создавать сайты и веб-приложения по одной команде

ChatGPT научился создавать сайты и веб-приложения по одной команде

OpenAI расширила возможности ChatGPT для разработки программного обеспечения. Теперь пользователи могут запускать создание сайтов и веб-приложений непосредственно из чата с помощью специальной команды, после чего ИИ самостоятельно формирует необходимый проект.

Подробнее

25 математиков с медалями Филдса выступили против OpenAI: учёные опасаются, что ИИ превращает научную конкуренцию в гонку за чужими открытиями

25 математиков с медалями Филдса выступили против OpenAI: учёные опасаются, что ИИ превращает научную конкуренцию в гонку за чужими открытиями

Конфликт между OpenAI и математическим сообществом вышел на новый уровень. Двадцать пять обладателей медали Филдса подписали открытое письмо, в котором предупредили об угрозе для научной работы из-за стремления ИИ-компаний первыми решать знаменитые математические задачи. Учёные опасаются, что такая гонка может привести к потере авторства, росту секретности и разрушению традиционной культуры открытых исследований.

Подробнее