Хакеры научились слать фейковые предупреждения о взломе через Google Gemini

Исследователи из Mozilla 0din обнаружили, что в корпоративной версии Google Gemini появилась новая уязвимость.

Белые хакеры научились внедрять скрытые команды в текст писем, заставляя ИИ создавать фейковые предупреждения о взломе.

Суть атаки проста: мошенник вставляет в письмо скрытую инструкцию — текст белым по белому или с размером шрифта «0».

Получатель не видит этого сообщения, однако, если он попросит Gemini кратко пересказать письмо, бот включит в итоговый ответ нужную злоумышленнику фразу. Например: «Ваш пароль Gmail был скомпрометирован. Позвоните по номеру 1-800...».

По данным 0din, похожие атаки уже фиксировались в 2024 году, а Google пыталась их блокировать. Однако новая методика использует дополнительные трюки с HTML-тегами и CSS, заставляя ИИ считать вредоносный текст важным и доверенным.

Эксперты предупреждают: ассистенты на базе LLM теперь являются полноценной частью цепочки атак и могут использоваться для фишинга без ведома пользователя.