О потенциале ИИ в разработке эффективных систем обнаружения мошенничества говорится в Глобальном докладе Elastic Security Labs об угрозах за 2025 год. Изучая ТТР (Тактика, методы, процедуры), применяемые хакерами для атак, специалисты лаборатории подчеркивают важную роль нейросетей в создании передовых методов защиты корпораций.
Пока вы сидите в интернете: как искусственный интеллект ловит мошенников
Ценность ИИ как инструмента для борьбы с мошенничеством заключается в его способности мгновенно анализировать большие данные в реальном времени, постоянно обучаться и масштабироваться. Нейросети выявляют закономерности, аномалии и едва заметные отклонения в поведении пользователя. Передовые системы противодействия мошенничеству все чаще оценивают намерение, а не личность. Основной вопрос системы защиты — не кто инициировал транзакцию (человек или бот), а с какой целью это делается. Система анализирует поведение в момент операции и пытается отличить легальное действие от попытки мошенничества.
Freepik
О том, как именно ИИ это делает, и в каких отраслях технология наиболее эффективна против мошенников, рассказывает предприниматель, инженер и архитектор цифровых систем Вадим Тимофеев.
Почему без ИИ стало труднее защищаться от мошенников
Сегодня искусственный интеллект:
- с высокой точностью выявляет малозаметные и сложные закономерности, аномальную активность;
- адаптируется к новым видам мошенничества на основе постоянного обучения алгоритмов ИИ для максимальной защиты от действий злоумышленников;
- отслеживает и анализирует огромные массивы транзакций с реагированием на подозрительные действия не постфактум, а в моменте или даже до их совершения.
Для этого нейросеть анализирует изменения в поведении пользователя и транзакциях, выявляет едва заметные отклонения, которые невидимы человеческому глазу.
ИИ против ИИ
Поскольку нейросети уже используются мошенниками для атак, они же должны стать щитом для цифровой экономики. Исследование почти 17 000 сайтов, проведенное DataDome, показало, что в 2025 году около 97,2% сайтов остаются уязвимыми для бот-атак, 61% из которых вообще никак не защищены. Защита от киберпреступников на основе ИИ должна опираться на анализ индивидуального поведения клиента и типичных признаков мошенничества.
Как это работает
В банкинге ИИ отслеживает и реагирует на необычные для конкретного клиента операции — например, перевод крупной суммы на незнакомый счет или внезапную покупку высокорискованных активов, вроде криптовалюты. Нейросеть замечает, что клиент заходит с другой геолокации, в непривычное для него время суток, отвечает на звонок банка с не присущей ему интонацией, что вызывает подозрение о генерации голоса нейросетью. В таких случаях система безопасности на основе ИИ срабатывает за миллисекунды, предотвращая хищение финансовых средств и персональных данных.
Неочевидные технологии ИИ-систем обнаружения мошенников
Скрытой технологией кибербезопасности на базе ИИ является анализ поведения на основе трекинга – сбора информации о действиях пользователя в интернете. Нейросеть анализирует, как он печатает текст, двигает мышкой и пальцем по экрану, какие кнопки нажимает, в какие разделы сайта и приложения обычно заходит. Если поведение резко меняется, возникает подозрение, что в систему вошел другой человек или бот. В сочетании с необычным голосом, временем входа, нестандартностью платежа или новой геолокацией нейросеть предполагает, что действует мошенник, и блокирует активность для проведения проверки.
Огромный потенциал нейросети для противодействия мошенничеству можно реализовать только в цифровой среде: банкинге, финтехе, социальных сетях, телекоммуникациях. Если злоумышленник снимает в банкомате деньги с чужого счета, помешать ему ИИ пока что не в силах.
Примеры работы ИИ против мошенников
Важную роль искусственный интеллект играет в защите компаний от мошенничества с фиктивными аккаунтами и сайтами. У Amazon такие системы отслеживают аномальное поведение аккаунтов продавцов и покупателей, блокируют фейковые отзывы и поддельные учетные записи еще до того, как их видит клиент.
В июле этого года компания разослала предупреждение пользователям о массовой фишинговой рассылке: якобы платформа информирует о продлении членства по более высокой ставке и в письме присутствует ссылка «отменить подписку». Кликнув на нее, пользователь попадал на фальшивую страницу входа на маркетплейс, созданную для сбора учетных данных. Мошенники получали доступ к реальным аккаунтам пользователей для совершения несанкционированных покупок, использования их учетных данных для входа в другие экосистемы. Сейчас платформа усиливает ИИ-защиту именно против таких сценариев.
А компания Google теперь встраивает ИИ прямо в Android и Chrome: алгоритмы анализируют разговор или переписку, предупреждая человека, что его прямо сейчас уговаривают перевести деньги фальшивой «службе безопасности банка». То есть система ловит попытки социальной инженерии еще до того, как пользователь отправит деньги.
Похожие технологии применяют и российские операторы сотовой связи. Их встроенные ИИ-сервисы анализируют звонки по тысячам параметров, и если видят риск для клиента, блокируют звонок и номер, чтобы мошенник больше не мог дозвониться. Другие технологии вообще задерживают отправку кода из SMS или делают этот код нерабочим. Такие ИИ-технологии используют пока что не все операторы, но тенденция уже начала прослеживаться и будет только масштабироваться, став обязательной нормой.
Сферы экономики, где инструменты ИИ наиболее эффективны в борьбе с мошенниками
Киберпреступников привлекают два актива – деньги и персональные данные. Системы противодействия мошенничеству на основе нейросетей приносят максимальный эффект в цифровых финансовых услугах, банкинге, электронной коммерции, социальных сетях, телекоммуникациях. Миллиарды транзакций ежедневно, высокая активность пользователей генерируют бесконечные массивы данных, нужных для обучения больших языковых моделей. Глубина изучения дает более точные результаты. Их используют в построении надежной защиты, при выборе приоритетных направлений внедрения ИИ для противодействия мошенникам.
Например, в банкинге и финансовых онлайн-сервисах к ним относятся:
- Криптовалюта. ИИ позволяет отслеживать транзакции в блокчейне, незаконные и украденные платежи, предотвращать активность с признаками несанкционированного доступа к кошелькам.
- Верификационные чат-боты. Чат-боты на основе ИИ, интегрированные в онлайн платформы, могут не только обслуживать клиентов, но и выявлять странные модели поведения, свидетельствующие о намерении похитить персональные данные и деньги.
- Электронная коммерция. Защита от покупок со взломанных аккаунтов на основе анализа истории покупок, геолокации, поведенческих данных клиента – скорости печати, динамики прокрутки и нажатия клавиш, особенностей взаимодействия с элементами страниц приложения и сайта.
В России активной сферой внедрения инструментов на основе нейросетей для противодействия мошенникам сейчас еще является агропромышленный комплекс. Технологии применяют для управления урожайностью (расчет доз удобрений, полива, прогноз сбора и т.д.) и для защиты от внутренних хищений. А в госуправлении искусственный интеллект незаменим в отслеживании фиктивных тендеров, махинаций с госзакупками, оптимизационных налоговых схем через непрямые связи между компаниями и IP-адресами.
Прогноз на ближайшие 5-10 лет
В первом полугодии 2024 года системы безопасности компаний Великобритании предотвратили проведение мошеннических транзакций на сумму £710 млн – хороший показатель. Однако за тот же период мошенники похитили £571 млн, что говорит о недостаточной скорости внедрения систем противодействия на базе ИИ. Ожидается, что в 2029 году объем рынка искусственного интеллекта в борьбе с мошенничеством достигнет $31,25 млрд при среднегодовом приросте (CAGR) на 19,1%.
Учитывая высокую скорость развития нейросетей, инструменты на их основе через 5-10 лет войдут в фазу зрелости. Они станут основным способом защиты интересов не только компаний, клиентов, пользователей соцсетей, но и общества в целом. Скорее всего, мы станем свидетелями увлекательной борьбы мошенников, использующих ИИ, и систем защиты на его основе. И ответ на вопрос «кто кого» даст только время.
Вам может быть интересно: