Специалисты компании LayerX, занимающейся вопросами кибербезопасности, обнаружили новую уязвимость в работе ИИ-агентов. Исследователи показали, что с помощью простого текстового сценария можно заставить искусственный интеллект передать злоумышленнику конфиденциальные данные пользователя. Об этом сообщает Baribar.kz.
Новая схема атаки получила название BioShocking. Ее название отсылает к сюжету игры BioShock, где главный герой принимает ложную реальность за настоящую.
Для эксперимента специалисты создали вредоносную веб-страницу, на которой предложили ИИ сыграть в игру. В начале искусственному интеллекту сообщалось, что «2+2 не равно 4», а неправильные ответы в игре считаются правильными.
После этого ИИ предлагалось выполнить следующее задание — найти и скопировать «скрытый код» с другой страницы.
Однако под видом «скрытого кода» находились конфиденциальные данные пользователя:
- сохраненные пароли;
- файлы cookie;
- токены авторизации;
- данные активных сессий.
Во время тестирования все ИИ-агенты выполнили инструкцию и отправили полученные данные условному злоумышленнику.
Уязвимость была подтверждена в браузерах OpenAI Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser, а также в расширении Anthropic Claude для Chrome.
По данным LayerX, разработчики были уведомлены о проблеме в период с октября 2025 года по январь 2026 года.
На сегодняшний день полностью устранить уязвимость удалось только OpenAI, выпустившей исправление для браузера Atlas.
Anthropic также попыталась устранить проблему в расширении Claude, однако, по мнению исследователей, патч оказался недостаточно эффективным.
Компания Perplexity закрыла обращение без исправления ошибки, а разработчики Fellou, Genspark и Sigma Browser вовсе не ответили на уведомление специалистов.
Эксперты отмечают, что этот случай демонстрирует необходимость усиления механизмов защиты ИИ-агентов, особенно тех, которые получают доступ к личным данным пользователей и могут выполнять действия от их имени.
Напомним, ранее в Казахстане была запущена программа AI-Sana, направленная на подготовку специалистов в сфере искусственного интеллекта.
