Критическая уязвимость в функции Gemini Gmail

В функции Gemini, интегрированной в Gmail, обнаружена критическая уязвимость, позволяющая хакерам проводить фишинговые атаки с помощью искусственно созданных резюме писем. Об этом сообщает ресурс BleepingComputer со ссылкой на 0DIN.

Уязвимость выявил Марко Фигероа — менеджер программы GenAI Bug Bounty в Mozilla. Фигероа отмечает, что злоумышленники могут скрывать инструкции в теле электронного письма, форматируя их белым цветом и уменьшая размер шрифта до нуля, что делает текст невидимым для человека, но доступным для анализа Gemini. В результате этого ИИ может автоматически добавлять ложные предупреждения в резюме, например, о взломе пароля, вместе с фальшивыми номерами службы поддержки.

Хотя некоторые пользователи могут игнорировать такие сообщения, другие могут попасть в ловушку из-за эмоционального воздействия подобного контента. Фигероа подчеркивает, что команды безопасности должны разрабатывать методы для обнаружения скрытой информации, а также анализировать результаты, генерируемые ИИ, на наличие URL-адресов, телефонных номеров или срочных сообщений.

BleepingComputer обратился к Google по поводу этой уязвимости в Gemini. Представитель компании заявил, что пока не было замечено никаких доказательств злоупотреблений, но добавил, что Google уже работает над усилением безопасности и вскоре внедрит дополнительные меры.