В функції Gemini, інтегрованій у Gmail, виявлено серйозну уразливість, що відкриває шлях до фішингових атак. Як повідомляє ресурс BleepingComputer, хакери можуть маніпулювати резюме листів для своїх цілей.
Цю уразливість виявив Марко Фігероа, менеджер програми GenAI Bug Bounty в Mozilla. Він зазначає, що зловмисники можуть приховувати небезпечні інструкції у електронних листах, використовуючи білий шрифт і зменшуючи розмір тексту до нуля, що робить його невидимим для користувачів, але доступним для системи Gemini. В результаті, ШІ може автоматично додавати до резюме неправдиві попередження, наприклад, щодо зламу пароля, разом із фейковими номерами служби підтримки.
Деякі користувачі можуть ігнорувати такі повідомлення, але інші можуть стати жертвами через емоційний вплив. Фігероа підкреслює, що команди безпеки можуть розробити способи виявлення прихованих повідомлень та перевіряти резюме, згенеровані ШІ, на наявність небезпечних URL, телефонних номерів або термінових заяв.
BleepingComputer звернувся до Google з питанням про цю уразливість у Gemini. Представник компанії зазначив, що поки не було зафіксовано жодних випадків зловживання, але Google вже працює над посиленням безпеки та незабаром впровадить нові заходи захисту.
