Всего через несколько дней после анонса нового AI-браузера Atlas от OpenAI, эксперты по кибербезопасности бьют тревогу. И так, продукт, созданный для революционной навигации в сети с помощью искусственного интеллекта, оказался подвержен серьезной уязвимости, которая ставит под угрозу конфиденциальность данных пользователей.
Косвенное внедрение подсказок: скрытая угроза в коде веб-страниц
Основная проблема, выявленная исследователями, получила название «косвенное внедрение подсказок» (indirect prompt injection). Суть уязвимости заключается в том, что злоумышленники могут встраивать вредоносные команды непосредственно в контент веб-сайтов — например, в тексты статей или даже в обычные комментарии на форумах вроде Reddit.
Когда AI-агент браузера, такой как в Atlas, анализирует эту страницу для выполнения запроса пользователя, он считывает не только видимый текст, но и скрытые вредоносные инструкции. В результате киберпреступники получают возможность манипулировать поведением браузера, что может привести к непредвиденным последствиям.
«Браузеры на базе искусственного интеллекта, которые могут выполнять действия от вашего имени, являются мощными, но крайне рискованными», — отмечают исследователи из компании Brave.
Потенциальные риски включают:
- Утечку данных: AI-агент может быть обманом вынужден скопировать и отправить конфиденциальную информацию со страницы.
- Несанкционированные действия: Вредоносный код может заставить браузер выполнить действия от имени пользователя без его ведома.
- Изменение поведения браузера: Атакующие могут изменять результаты поиска или перенаправлять пользователя на фишинговые сайты.
Системная проблема, а не единичный случай
В отчете компании Brave, разработчика одноименного приватного браузера, подчеркивается, что данная уязвимость не является эксклюзивной для Atlas от OpenAI. Это системная проблема, затрагивающая весь новый класс AI-браузеров, включая такие продукты, как Comet от Perplexity и другие.
Проблема кроется в самой архитектуре таких систем: они по определению вынуждены обрабатывать как доверенные данные от пользователя, так и ненадёжный, потенциально опасный контент из интернета для формирования своих ответов и действий.
Как защитить себя: практические советы от экспертов
Пока разработчики ищут глобальное решение проблемы, эксперты из Brave предлагают пользователям придерживаться следующих правил для минимизации рисков:
- Разделяйте сеансы. Используйте AI-браузеры (Atlas, Comet) только тогда, когда их функциональность действительно необходима. Для повседневного серфинга лучше выбрать обычный, проверенный браузер.
- Защищайте конфиденциальную информацию. Всегда используйте стандартный браузер для выполнения чувствительных операций, таких как онлайн-банкинг, работа с электронной почтой и общение в мессенджерах.
- Включите ручное подтверждение. Если настройки AI-агента позволяют, активируйте опцию, которая требует вашего явного согласия перед выполнением любого автономного действия.
Эксперты сходятся во мнении, что косвенное внедрение подсказок — это фундаментальная проблема, которая может потребовать полной перестройки архитектуры AI-браузеров и принципов нашего взаимодействия с ними в будущем.
