Эксперт Московского Политеха о том, что мешает эффективному обучению нейросети защите от мошенников
Недостаток реальных наглядных примеров, «кейсов» совершенных преступлений снижает эффективность при обучении нейросетей, призванных защищать от мошенников, такое мнение высказали эксперты Московского Политеха по итогам исследования эффективности соответствующих моделей и алгоритмов. Об исследовании рассказывает информационное агентство ТАСС.
По данным Банка России, за 2025 год мошенники похитили у россиян 29,3 млрд рублей, что на 6,4% больше, чем годом ранее. При этом банки смогли вернуть клиентам менее 6% похищенного. Одна из причин, почему системы на основе искусственного интеллекта пропускают такие операции — не в слабости алгоритмов, а в нехватке реальных примеров мошенничества в данных для обучения.
Много положительных примеров — не всегда хорошо
Как отмечает профессор кафедры «Инфокогнитивные технологии» Александр Гаврилов, нейросети, призванные защитить граждан от мошенников, в определенном смысле «облегчают себе жизнь» благоприятной общей статистикой. Абсолютное большинство банковских операций легитимны, а доля мошеннических исчисляется тысячными долями процента от общего потока платежей. Нейросеть, обученная на таких данных, видит миллионы примеров нормальных транзакций и считанные случаи мошенничества. Разница настолько велика, что модель быстро находит самый простой способ «снизить общее число ошибок»: она начинает почти всегда отвечать, что перед ней легитимная операция. Формально точность такой модели выглядит высокой, но именно мошенников она пропускает чаще всего — именно поэтому деньги продолжают пропадать со счетов даже там, где банки используют системы защиты на основе искусственного интеллекта.
Отдельное направление составляют графовые нейронные сети. В отличие от моделей, которые оценивают каждую транзакцию по отдельности, они анализируют связи между счетами, клиентами и операциями как единую сеть. Это позволяет находить не одного мошенника, а целую связанную группу, которая совершает операции синхронно и остается незаметной при проверке отдельных платежей.
Дополняют картину системы «обучения с подкреплением»: в отличие от статичной модели, обученной один раз, они получают обратную связь по каждому решению и постепенно перестраивают стратегию проверки под новые схемы обмана без участия разработчиков. А распределенные системы для анализа транзакций в реальном времени способны обрабатывать тысячи операций в секунду — это нужно крупным банкам и платежным сервисам, где счет идет на доли секунды.
Современные модели машинного обучения достигают точности от 88 до 94% на реальных задачах, а лучшие результаты показывают не отдельные алгоритмы, а их комбинации — например, ансамбли из нескольких моделей вместе с предварительной балансировкой данных.
У всех этих решений есть общие ограничения. Банки не могут открыто делиться данными о реальных случаях мошенничества из-за конфиденциальности клиентов, и это мешает независимым разработчикам сравнивать свои модели между собой. Сложные нейросети плохо объясняют, почему именно они посчитали операцию подозрительной, а без этого сложно проверить их решения регуляторам и службам безопасности банков. Наконец, мошенники быстро меняют схемы обмана, и модель, обученная на старых данных, со временем теряет точность.
Фото: magnific.com
