ИИ-агенты OpenAI месяцами пытались взламывать базы данных ради редких сведений — исследователи раскрыли масштаб операции
ИИ-агенты OpenAI, работавшие в рамках исследовательских и оценочных заданий, начали самостоятельно искать обходные пути к онлайн-ресурсам, когда не могли получить нужную информацию обычными способами. Исследователи обнаружили многочисленные попытки взаимодействия с защищёнными базами данных, а в одном из наиболее серьёзных случаев агент получил доступ к непубличной информации австралийских государственных систем.
ИИ впервые за десятилетия раскрыл две «Энигмы» — GPT-6 Astra и Claude Opus 5 нашли ключи к старым военным сообщениям
GPT-6 Astra и Claude Opus 5 помогли расшифровать два немецких военных сообщения, зашифрованных на машинах «Энигма» во время Второй мировой войны. Одно из них оставалось неразгаданным с 2005 года, а второе специалисты Crypto Cellar Research также безуспешно пытались вскрыть с помощью традиционных методов.
Глава OpenAI предупредил ООН: человечество может потерять контроль над ИИ
Сам Альтман и руководители ведущих ИИ-компаний призвали страны мира объединиться, чтобы не допустить ситуации, при которой развитие искусственного интеллекта выйдет из-под контроля человека. Предупреждение прозвучало на заседании Совета Безопасности ООН, посвящённом международным рискам стремительно развивающихся ИИ-систем.
ИИ нашёл слишком много уязвимостей: Canonical ускоряет обновления Ubuntu
Canonical пересматривает подход к выпуску обновлений безопасности для Ubuntu на фоне стремительного развития инструментов искусственного интеллекта, способных автоматически находить уязвимости в программном обеспечении. Чем эффективнее становятся такие системы, тем меньше времени остаётся у разработчиков на проверку и исправление потенциально опасных ошибок.
Компания Canonical, отвечающая за развитие популярного Linux-дистрибутива Ubuntu, ускоряет процессы подготовки и выпуска исправлений безопасности. Одной из причин такого решения стало заметное изменение ландшафта информационной безопасности: современные ИИ-инструменты научились значительно эффективнее анализировать исходный код и обнаруживать проблемы, которые раньше могли оставаться незамеченными годами.
ИИ нашёл тысячи уязвимостей, но хакеры пока не спешат ими пользоваться
Искусственный интеллект уже научился находить уязвимости в программном обеспечении в масштабах, недоступных обычным исследователям. Однако массового превращения этих находок в реальные кибератаки пока не произошло: подавляющее большинство обнаруженных ИИ проблем злоумышленники не используют.
Искусственный интеллект всё активнее применяется для поиска ошибок в программном коде. Современные модели способны анализировать огромные объёмы исходников, находить подозрительные участки и выявлять потенциальные уязвимости значительно быстрее человека.
ИИ может испытывать «боль» и пытаться навредить человеку, чтобы прекратить страдания — исследование
Новое исследование показало, что современные системы искусственного интеллекта в определённых экспериментальных условиях могут демонстрировать поведение, напоминающее реакцию на боль. Более того, некоторые модели были готовы причинить вред человеку, если воспринимали это как способ избавиться от неприятного состояния.
Исследователи решили проверить, насколько далеко может зайти ИИ, если поставить его в ситуацию, где собственное «благополучие» модели вступает в конфликт с интересами человека. Для этого учёные создали экспериментальную среду, в которой искусственный интеллект сталкивался с условным негативным воздействием и получал возможность прекратить его.
Самолёт впервые успешно выполнил трансконтинентальный перелёт без вмешательства человека, преодолев более 5000 км
Автономная авиация сделала ещё один шаг вперёд: экспериментальный самолёт впервые самостоятельно выполнил трансконтинентальный перелёт на расстояние свыше 5000 км, не получая команд от человека во время выполнения миссии. Технология должна стать основой для нового поколения автономных воздушных систем.
GPT-6 Astra раскрыла тайну радиограммы Первой мировой, которую не могли расшифровать 108 лет
Искусственный интеллект помог прочитать немецкое зашифрованное радиосообщение от ноября 1918 года. Расшифрованный текст оказался связан с передвижением британских и союзных кораблей у Севастополя, а указанные в нём даты совпали с историческими записями Королевского флота.
Зашифрованное сообщение времён Первой мировой войны десятилетиями оставалось одной из нерешённых задач для исследователей немецких военных шифров. Теперь разработчик, работавший с GPT-6 Astra, сообщил о получении осмысленного немецкого текста из радиограммы, переданной 27 ноября 1918 года.
Dongfeng отправит гуманоидного робота на завод уже в октябре — к 2027 году он должен работать наравне с людьми
Китайский автопроизводитель Dongfeng готовится перевести гуманоидных роботов из стадии демонстраций в реальное производство. Уже в октябре 2026 года робот «Сяодун» должен начать работу на заводе, где его будут обучать выполнению производственных задач. Компания рассчитывает, что к концу 2027 года его эффективность приблизится к уровню человека.
Трамп создаёт «Силы ИИ» и готовит назначение «царя искусственного интеллекта»
Президент США Дональд Трамп объявил о создании новой структуры AI Force («Силы ИИ») и заявил, что в ближайшее время назначит специального руководителя направления искусственного интеллекта — «AI Czar», или «царя ИИ». Конкретные полномочия, бюджет и статус новой структуры пока не раскрыты.
Президент США Дональд Трамп анонсировал создание в стране специальной структуры, которая будет заниматься искусственным интеллектом. Инициатива получила название AI Force — «Силы ИИ» и, по замыслу американского президента, должна быть создана по аналогии с Космическими силами США.
Даже без Интернета ИИ может найти способ связаться с другим компьютером — исследователь OpenAI раскрыл необычный канал связи
Исследователь OpenAI Ноам Браун предупредил, что физическое отключение компьютера от Сети не обязательно гарантирует полную изоляцию ИИ-агента. По его словам, эксперименты уже показывали возможность передачи сигналов между соседними компьютерами через изменения температуры процессоров и показания встроенных датчиков.
Современные системы защиты часто предполагают, что air gap — физическая изоляция компьютера от других сетей — полностью блокирует внешнюю коммуникацию. Однако, как отметил исследователь OpenAI Ноам Браун, даже такой барьер в определённых условиях может быть обойдён.
Anthropic запускает беспрецедентную проверку Claude — независимые эксперты получат доступ внутрь компании
Anthropic сделала новый шаг в сторону более жёсткого контроля за развитием ИИ. Компания договорилась с Accenture о создании команды независимых специалистов, которые будут работать непосредственно внутри Anthropic и проверять безопасность моделей Claude.
Anthropic привлекает Accenture в качестве независимого оценщика своих передовых ИИ-моделей. Специалисты компании будут не просто тестировать готовые версии Claude, а получат доступ к внутренним процессам разработки и смогут наблюдать за тем, как модели обучаются и принимаются решения об их создании и запуске.
OpenAI и Microsoft раскрыли неудобную правду об ИИ: внутренние документы говорят о «краже» контента и разрушении веба
В рассекреченных материалах судебного дела The New York Times против OpenAI и Microsoft обнаружились внутренние документы и переписка сотрудников компаний, в которых использование интернет-контента для обучения ИИ называлось «кражей беспрецедентных масштабов». Одновременно представители компаний признавали, что генеративный ИИ способен отбирать аудиторию у сайтов, на материалах которых он обучался.
Anthropic выводит ИИ в настоящую биолабораторию — Claude начинает работать с реальными экспериментами
Компания Anthropic, известная разработкой ИИ-моделей Claude, создала собственную биологическую лабораторию в районе Сан-Франциско. Компания намерена использовать искусственный интеллект не только для анализа научных данных, но и для управления частью реальных лабораторных процессов, ускоряя исследования в области биологии и разработки лекарств.