Всё больше и больше появляется информации, как используют ИИ-агентов для взлома ранее хорошо зачищенных систем и вот ещё один пример
😎Злоумышленники купили просроченный «доверенный» домен за $5 и через длинное поле формы в CRM заставили ИИ-агент (SalesForce) выгружать список лидов на внешний сервер. Утечка — на руках.
Salesforce уже выпустил патчи и ввёл принудительное ограничение доверенных URL для Agentforce / Einstein Generative AI (фикс начали вводить с 8 сентября), но урок остаётся: любая система, которая позволяет агенту «заглядывать» на внешние URL (сайты) или исполнять содержимое из полей пользователей — потенциальная дыра.
❗️Почему это опасно:
1. ИИ-агент видит ваши в данные и может «выкинуть» их наружу.
2. Обычные правила безопасности (валидация полей, WAF) не всегда спасают.
✅ Что надо сделать прямо сейчас:
1. Запретить автоматическую отправку данных на внешние URL ИИ-агентами. Пусть никто и ничто автоматически не шлёт CRM-данные вовне.
2. Ввести список (allow-list) доверенных доменов для всех вызовов из ИИ-агентов — и проверять, кому принадлежит домен.
3. Ограничить длину и формат текстовых полей (особенно «описание», «комментарий») — большими полями могут злоупотреблять мошенники – они там пишут длинные промпты, которые взламывают защиту ИИ-агента.
4. Добавить людскую проверку для всех операций, где агент выводит или экспортирует чувствительные данные.
5. Тестировать регулярно: запустить red-team на prompt-injection — лучше найти дыру самому, чем ждать утечки.
Короче, ещё один головняк прилетел, но и без ИИ-агентов нельзя - они сильно повышают производительность, а значит нужно выстраивать меры безопасности работы и создания ИИ-агентов.
Подробнее можно прочитать на The Register (https://www.theregister.com/2025/09/26/salesforce_agentforce_forceleak_attack/)
Видео или фотографии - нет
********
Пригласить Бориса выступить по этой теме http://agatov.pro/
Лень читать, смотри на - YouTube https://www.youtube.com/@agatovboris или RuTube https://rutube.ru/channel/38765038/
Мой курс по ИИ для бизнеса – Курс https://magazin40.getcourse.ru/aicourse
😎Злоумышленники купили просроченный «доверенный» домен за $5 и через длинное поле формы в CRM заставили ИИ-агент (SalesForce) выгружать список лидов на внешний сервер. Утечка — на руках.
Salesforce уже выпустил патчи и ввёл принудительное ограничение доверенных URL для Agentforce / Einstein Generative AI (фикс начали вводить с 8 сентября), но урок остаётся: любая система, которая позволяет агенту «заглядывать» на внешние URL (сайты) или исполнять содержимое из полей пользователей — потенциальная дыра.
❗️Почему это опасно:
1. ИИ-агент видит ваши в данные и может «выкинуть» их наружу.
2. Обычные правила безопасности (валидация полей, WAF) не всегда спасают.
✅ Что надо сделать прямо сейчас:
1. Запретить автоматическую отправку данных на внешние URL ИИ-агентами. Пусть никто и ничто автоматически не шлёт CRM-данные вовне.
2. Ввести список (allow-list) доверенных доменов для всех вызовов из ИИ-агентов — и проверять, кому принадлежит домен.
3. Ограничить длину и формат текстовых полей (особенно «описание», «комментарий») — большими полями могут злоупотреблять мошенники – они там пишут длинные промпты, которые взламывают защиту ИИ-агента.
4. Добавить людскую проверку для всех операций, где агент выводит или экспортирует чувствительные данные.
5. Тестировать регулярно: запустить red-team на prompt-injection — лучше найти дыру самому, чем ждать утечки.
Короче, ещё один головняк прилетел, но и без ИИ-агентов нельзя - они сильно повышают производительность, а значит нужно выстраивать меры безопасности работы и создания ИИ-агентов.
Подробнее можно прочитать на The Register (https://www.theregister.com/2025/09/26/salesforce_agentforce_forceleak_attack/)
Видео или фотографии - нет
********
Пригласить Бориса выступить по этой теме http://agatov.pro/
Лень читать, смотри на - YouTube https://www.youtube.com/@agatovboris или RuTube https://rutube.ru/channel/38765038/
Мой курс по ИИ для бизнеса – Курс https://magazin40.getcourse.ru/aicourse