Статистика краж и мошенничеств неумолимо свидетельствует о том, что злоумышленники постоянно находят свежие лазейки для обхода банковских технологий.
Особую опасность представляют хитроумные приемы, направленные на дискредитацию систем искусственного интеллекта (ИИ).
Например, преступники могут «отравить» обучающие данные, чтобы нарушить нормальную работу нейросетей, или организовать так называемые «состязательные атаки», ведущие к неверным выводам и ошибочным решениям.
Какие угрозы подстерегают банковские нейросети?
По данным Банка России, в прошлом году финансовые мошенники похитили у граждан около 30 миллиардов рублей.
Ущерб мог бы быть куда более значительным, если бы не системы безопасности, где активно применяется ИИ. Чтобы усилить защиту, регулятор выпустил рекомендации, описывающие полный спектр цифровых угроз. В них, в частности, указывается, что нарушители могут искать уязвимости моделей ИИ в открытых источниках, документации или репозиториях.
Включение заведомо ошибочных сведений в обучающий набор данных грозит тем, что искусственный интеллект будет делать неверные выводы. Помимо «отравления» данных, возможны атаки типа «губка», управление потоком запросов для перегрузки системы, а также кража программного кода и модификация алгоритма обучения.
Злоумышленники способны не только добавить ложные примеры, но и удалить важные из набора обучающих данных, что снижает устойчивость модели. Обход системных инструкций путем изменения меток также ведет к неправильному обучению.
Стратегия защиты: от шифрования до ручного контроля
Если финансовая организация применяет ИИ в критически важных процессах, таких как платежные операции, ЦБ рекомендует ввести обязательное подтверждение операции сотрудником. Эта элементарная подстраховка способна уберечь от фатальных последствий. Для защиты данных советуют использовать шифрование, методы обезличивания и маскирования информации ограниченного доступа.
Для нейтрализации «отравленных» знаний в рекомендациях указана необходимость отслеживать происхождение данных и проверять их на ошибки. Тестирование ИИ после обучения должно выявлять следы диверсии. Кроме того, регулятор настаивает на периодическом дообучении модели, что позволит адаптировать её к новым угрозам, а также на фиксации версий и контроле целостности каждого набора данных.
