Небезпечна вразливість у функції Gemini Gmail

У системі Gemini, інтегрованій у Gmail, зафіксовано серйозну вразливість, що дозволяє зловмисникам здійснювати фішингові атаки, використовуючи штучно створені резюме листів. Про це повідомляє ресурс BleepingComputer за посиланням на 0DIN.

Вразливість була виявлена Марко Фігероа — керівником програми GenAI Bug Bounty в Mozilla. Фігероа зазначає, що зловмисники можуть приховувати небезпечні інструкції в тексті електронного листа, використовуючи білий шрифт та зменшуючи розмір до нуля, що робить текст невидимим для людини, але доступним для аналізу системи Gemini. Це призводить до того, що ШІ може автоматично додавати неправдиві попередження, наприклад, про злом пароля, разом з фальшивими номерами служби підтримки.

Хоча деякі користувачі можуть ігнорувати такі повідомлення, інші можуть стати жертвами через емоційний вплив подібного контенту. Фігероа підкреслює, що команди безпеки повинні розробляти методи для виявлення прихованої інформації, а також перевіряти результати, які генерує ШІ, на наявність URL-адрес, телефонних номерів або термінових повідомлень.

BleepingComputer звернувся до Google з приводу цієї вразливості в Gemini. Представник компанії сказав, що поки не виявлено жодних доказів зловживання, але запевнив, що Google вже працює над посиленням безпеки та незабаром впровадить нові заходи.