ШІ-атака краде паролі в Gmail: нова загроза для 1.8 мільярда користувачів

ШІ-атака краде паролі в Gmail, використовуючи приховані інструкції в електронних листах, щоб обдурити систему Gemini AI та згенерувати фішингові попередження. Понад 1,8 мільярда користувачів перебувають у зоні ризику.

ШІ-атака краде паролі в Gmail: Як працює ця атака через Gemini AI

Механізм обману: як хакери маніпулюють ШІ

Атака використовує Gemini AI від Google, вбудовану функцію в Gmail та інших сервісах Google, шляхом вбудовування прихованих команд в електронні листи. Коли користувачі натискають на кнопку “Підсумувати цей лист”, Gemini AI фіксує ці приховані інструкції замість видимого тексту. Таким чином, він генерує оманливі попередження про безпеку або критичні повідомлення.

Ці оманливі електронні листи можуть попереджати користувачів про нібито злом акаунтів Gmail, часто надаючи шахрайський номер телефону “служби підтримки Google”, який перенаправляє на шахраїв, а не на будь-яку легальну службу підтримки.

Хакери використовують такі тактики, як використання білого тексту на білому тлі та зменшення розміру шрифту до нуля, ефективно приховуючи зловмисні команди від людських очей, але роблячи їх видимими для інструментів штучного інтелекту, таких як Gemini. Цей метод, який називається “введенням хитрощів”, вводить ШІ в оману і змушує його взаємодіяти з прихованим повідомленням.

Аналітики з безпеки, в тому числі з команди безпеки 0Din компанії Mozilla, виявили цю техніку маніпуляції, продемонструвавши, як Gemini можна обдурити, щоб він видавав неправдиві попередження, які можуть привести користувачів на фішингові сайти або шахрайські телефонні дзвінки.

Рекомендації для користувачів Gmail

• Ігноруйте сповіщення про безпеку з резюме Gemini; справжні попередження не надходять від цього інструменту штучного інтелекту.
• З обережністю ставтеся до листів із закликами до негайних дій, особливо до тих, що спонукають переходити за посиланнями або контактними номерами.
• Налаштуйте параметри електронної пошти так, щоб блокувати або позначати прихований вміст, наприклад, нульовий розмір шрифту або текст білим по білому.
• Встановіть фільтри, щоб відловлювати незвичні шаблони, зокрема надмірно термінові повідомлення, підозрілі URL-адреси або дивні телефонні номери.

ШІ-атака краде паролі в Gmail: Чому Google має реагувати негайно

Поки Google не усуне цю вразливість, кіберзлочинці, ймовірно, продовжуватимуть нею користуватися. Ця загроза виходить за межі Gmail, впливаючи на інтеграцію з Документами Google, Календарем та сторонніми додатками.

Будьте обережні. Видаляйте будь-які сумнівні резюме і завжди перевіряйте сповіщення через офіційні джерела Google, а не покладайтеся на повідомлення, згенеровані штучним інтелектом.