Anthropic сделала новый шаг в сторону более жёсткого контроля за развитием ИИ. Компания договорилась с Accenture о создании команды независимых специалистов, которые будут работать непосредственно внутри Anthropic и проверять безопасность моделей Claude.

Anthropic привлекает Accenture в качестве независимого оценщика своих передовых ИИ-моделей. Специалисты компании будут не просто тестировать готовые версии Claude, а получат доступ к внутренним процессам разработки и смогут наблюдать за тем, как модели обучаются и принимаются решения об их создании и запуске.

Учёные создали молекулярный компьютер, который выполняет сложные вычисления за счёт самосборки ДНК. После короткого нагревания система продолжает работу самостоятельно, постепенно переходя в состояние, соответствующее правильному результату.

Исследователи из Университета Мейнут в Ирландии разработали новый тип ДНК-компьютера, способного выполнять математические операции без постоянного электропитания и непрерывного вмешательства человека. Работа опубликована в журнале Nature и получила название Scaffolded DNA Computer (SDC).

Компания Anthropic, известная разработкой ИИ-моделей Claude, создала собственную биологическую лабораторию в районе Сан-Франциско. Компания намерена использовать искусственный интеллект не только для анализа научных данных, но и для управления частью реальных лабораторных процессов, ускоряя исследования в области биологии и разработки лекарств.

Исследователи предупреждают о неожиданном побочном эффекте технологий «водяных знаков» для генеративного ИИ. Методы, призванные определять контент, созданный нейросетями, потенциально способны влиять на работу самих моделей и делать их поведение менее предсказуемым.

Крупнейшие разработчики искусственного интеллекта впервые за последнее время активизировали переговоры о совместных мерах безопасности. OpenAI, Anthropic и Google DeepMind уже несколько недель обсуждают координацию действий на фоне предупреждений исследователей о потенциально катастрофических последствиях дальнейшего развития ИИ.

Microsoft решила жёстко обозначить границы для развития искусственного интеллекта: компания считает, что её ИИ не обладает сознанием, не должен получать права и обязан в любой момент оставаться под контролем человека. Одновременно корпорация выступила против бесконтрольной гонки за сверхразумом.

Крупнейшие разработчики искусственного интеллекта всё чаще предупреждают о рисках стремительного развития ИИ. На фоне появления всё более автономных моделей специалисты признают, что технологии начали развиваться быстрее, чем общество и регуляторы успевают выработать эффективные механизмы контроля.

OpenAI расширила возможности ChatGPT для разработки программного обеспечения. Теперь пользователи могут запускать создание сайтов и веб-приложений непосредственно из чата с помощью специальной команды, после чего ИИ самостоятельно формирует необходимый проект.

Конфликт между OpenAI и математическим сообществом вышел на новый уровень. Двадцать пять обладателей медали Филдса подписали открытое письмо, в котором предупредили об угрозе для научной работы из-за стремления ИИ-компаний первыми решать знаменитые математические задачи. Учёные опасаются, что такая гонка может привести к потере авторства, росту секретности и разрушению традиционной культуры открытых исследований.

Стремительное распространение искусственного интеллекта меняет не только рынок труда и привычные способы работы с информацией, но и поведение самих людей. Учёные обнаружили признаки того, что чрезмерная зависимость от ИИ может снижать активность человеческого мышления, а сформировавшиеся привычки использования таких систем способны распространяться от одного человека к другому подобно вирусу.

Исследователь Anthropic предупредил, что развитие искусственного интеллекта может привести к катастрофическим последствиям уже в ближайшее десятилетие. По его личной оценке, вероятность того, что будущий сверхразумный ИИ уничтожит человечество, превышает 10 %. При этом компания пока не располагает готовым решением проблемы безопасности таких систем.

Учёные из Японского передового института науки и технологий (JAIST) разработали специальную добавку для электролита, которая значительно замедляет деградацию литий-ионных аккумуляторов. В лабораторных испытаниях аккумулятор с новой добавкой сохранил до 95,6 % первоначальной ёмкости после 1000 циклов зарядки и разрядки — тогда как обычный элемент без добавки сохранил лишь 62,7 %.

NASA сделало ещё один шаг к созданию постоянной инфраструктуры на Марсе. Американское космическое агентство выбрало Blue Origin для разработки и эксплуатации телекоммуникационной сети вокруг Красной планеты. Стоимость соглашения может достигнуть $700 млн, а запуск первого узла инфраструктуры запланирован до конца 2028 года.

Учёные разработали лазерный метод, позволяющий выявлять контрафактный алкоголь прямо через стекло бутылки — открывать ёмкость и брать образец жидкости для анализа больше не требуется.

Google начала автоматически разворачивать ответы искусственного интеллекта прямо в поисковой выдаче. Для некоторых запросов пользователи теперь сразу видят расширенный AI Overview с полным ответом и полем «Спросить что-нибудь», без необходимости нажимать кнопку «Показать больше».