Перейти к содержимому

Google построила фальшивый интернет для ИИ-агентов — с банками, соцсетями и виртуальными компаниями

Google разработала полноценную виртуальную интернет-среду, предназначенную для обучения и тестирования ИИ-агентов. В ней существуют поддельные банки, социальные сети, интернет-магазины и другие онлайн-сервисы, с которыми искусственный интеллект может взаимодействовать практически так же, как с настоящими сайтами. Такая инфраструктура позволит обучать автономные системы выполнять сложные задачи в интернете без риска навредить реальным пользователям и компаниям.

Зачем Google понадобился собственный интернет

Проект получил название Mirror Dimension («Зеркальное измерение»). Это изолированная цифровая копия интернета, созданная командой безопасности Google Chrome для проверки возможностей браузерных ИИ-агентов.

Проблема заключается в том, что современные агенты способны самостоятельно выполнять многоэтапные действия: переходить по ссылкам, заполнять формы, оформлять покупки, работать с аккаунтами и искать информацию. При этом ошибки таких систем могут иметь вполне реальные последствия.

Например, неправильно поняв инструкцию, ИИ может отправить сообщение не тому человеку, оформить ненужный заказ или изменить настройки пользовательского аккаунта.

Использование настоящих сайтов для подобных экспериментов небезопасно. Кроме того, содержимое интернета постоянно меняется, поэтому воспроизводить одни и те же испытания становится сложно.

Тысячи поддельных сайтов работают как настоящие

Внутри Mirror Dimension находятся тысячи искусственно созданных веб-страниц и сервисов. Среди них:

  • Социальные сети с публикациями, комментариями и пользовательскими профилями.

  • Интернет-магазины с корзинами, оформлением заказов и промокодами.

  • Банковские панели с имитацией финансовых операций.

  • Сайты различных услуг и онлайн-платформ.

  • Другие ресурсы, необходимые для моделирования повседневных пользовательских сценариев.

Примечательно, что Google не создаёт все эти сайты вручную. Для этого используется специальная система автономных ИИ-агентов-разработчиков. Одни агенты проектируют сайты, другие программируют их, проверяют работоспособность и исправляют обнаруженные ошибки.

В результате получается не набор статичных макетов, а полноценная интерактивная среда с работающими элементами и изменяющимися данными.

ИИ специально подвергают хакерским атакам

Отдельное направление испытаний — проверка устойчивости агентов к так называемым prompt injection (атакам через внедрение инструкций).

Злоумышленники могут прятать вредоносные команды непосредственно в содержимом веб-страниц, изображениях или элементах сайтов. Если ИИ воспримет такие инструкции как приоритетные, он может отклониться от первоначального задания и выполнить действия в интересах атакующего.

В Mirror Dimension разработчики специально создают подобные ситуации, проверяя, сможет ли агент распознать манипуляцию и отказаться от опасных действий.

Для максимально реалистичных испытаний инженерам даже пришлось использовать специальные сертификаты и механизмы перенаправления сетевого трафика, чтобы настоящий браузер Chrome воспринимал виртуальные сайты как обычные интернет-ресурсы.

При этом Google подчёркивает, что подобные технические приёмы работают благодаря полному контролю над тестовой инфраструктурой и не позволяют аналогичным образом атаковать обычных пользователей Chrome.

Зачем это нужно в будущем

Mirror Dimension должна помочь Google подготовить ИИ-агентов к самостоятельной работе в настоящем интернете. Чем больше задач им доверяют пользователи, тем важнее становится способность правильно оценивать последствия своих действий и противостоять вредоносным инструкциям.

Компания также рассматривает возможность распространения этой методики внутри Google и предоставления доступа другим исследовательским командам.

По сути, Google создаёт цифровой полигон, на котором ИИ может совершать ошибки, попадаться на уловки мошенников и учиться безопасному поведению, не затрагивая реальные деньги, аккаунты и персональные данные пользователей.

Главная идея проекта — прежде чем доверить искусственному интеллекту настоящий интернет, необходимо научить его безопасно работать в его максимально реалистичной копии.

Пока нет комментариевВойдите в аккаунт, чтобы начать обсуждение.