Серьезная уязвимость была выявлена в функции Gemini, интегрированной в Gmail, что открывает путь для фишинговых атак. Как сообщает ресурс BleepingComputer, хакеры могут манипулировать резюме писем для своих целей.
Эту уязвимость обнаружил Марко Фигероа, менеджер программы GenAI Bug Bounty в Mozilla. Он отмечает, что злоумышленники могут скрывать опасные инструкции в электронных письмах, используя белый шрифт и уменьшая размер текста до нуля, что делает его невидимым для пользователей, но доступным для системы Gemini. В результате, ИИ может автоматически добавлять ложные предупреждения в резюме, такие как уведомления о взломе пароля, наряду с поддельными номерами службы поддержки.
Некоторые пользователи могут игнорировать такие сообщения, но другие могут стать жертвами из-за эмоционального влияния. Фигероа подчеркивает, что команды безопасности могут разработать способы обнаружения скрытого контента и проверять резюме, созданные ИИ, на наличие небезопасных URL, телефонных номеров или срочных заявлений.
BleepingComputer обратился к Google с вопросом об этой уязвимости в Gemini. Представитель компании отметил, что до сих пор не было зафиксировано никаких случаев злоупотребления, но Google уже работает над укреплением безопасности и вскоре внедрит дополнительные меры защиты.
