Как финансовым организациям безопасно использовать искусственный интеллект

Банк России разработал Методические рекомендации по обеспечению информационной безопасности при разработке и применении искусственного интеллекта на финансовом рынке. Документ опубликован 16 июня на официальном сайте регулятора.

Рекомендации адресованы кредитным организациям, иностранным банкам, ведущим деятельность на территории РФ через свои филиалы, некредитным финансовым организациям, лицам, оказывающим профессиональные финансовые услуги, субъектам национальной платежной системы. Основное назначение документа – обеспечить безопасность, надежность и эффективность при использовании ИИ на финансовом рынке. Применение рекомендаций поможет минимизировать риски, связанные с нарушением информационной безопасности и операционной надежности.

Так, финансовым организациям необходимо учитывать следующие риски ИИ:

1. Использование для обучения модели ИИ "отравленных", неактуальных или некорректных наборов данных.
2. Нарушение конфиденциальности данных, авторских прав и интеллектуальной собственности.
3. Галлюцинации ИИ, дрейф данных и иные варианты деградации модели ИИ, приводящие к некорректным выводам и решениям.
4. Отсутствие достаточной объяснимости и предсказуемости действий модели ИИ. 
5. Привлечение поставщиков услуг или использование компонентов технологий ИИ с открытым исходным кодом, обусловленные умышленными или неосторожными действиями сотрудников поставщика услуг, наличием слабостей и уязвимостей в таких компонентах.
6. Прерывание операционных процессов организации вследствие умышленных или неосторожных действий в отношении системы ИИ.

Вышеперечисленные риски могут привести к нарушению прав, свобод и законных интересов граждан, операционной деятельности организации, причинению убытков и вреда деловой репутации организации, нарушению стабильности финансовой системы и другим негативным последствиям.

Среди наиболее вероятных угроз ЦБ РФ называет атаку с использованием фаззинга, внедрение бэкдора (закладки) в модели ИИ, модификацию алгоритма обучения, извлечение данных, вредоносные "инъекции" и т. д.

При использовании искусственного интеллекта для выполнения автоматических операций, например, при совершении платежных операций, финансовым организациям рекомендуется перепроверять решения с помощью человека. Для эффективной работы с рисками также целесообразно разработать модель угроз безопасности информации системы ИИ и политику обеспечения информационной безопасности. Возложить разработку политики и контроль за ее реализацией ЦБ РФ предлагает на заместителя руководителя организации, ответственного за обеспечение информационной безопасности в организации, в том числе ответственного за обнаружение, предупреждение, ликвидацию последствий компьютерных атак и реагирование на компьютерные инциденты.

В приложениях к Методическим рекомендациям Банк России приводит:

1. Возможные тактики и техники реализации (возникновения) угроз информационной безопасности технологий ИИ.
2. Соотношение этапов разработки и применения ИИ и возможных угроз безопасности, специфичных для технологий ИИ.
3. Соотношение возможных угроз информационной безопасности технологий ИИ и возможных способов реализации таких угроз и мер защиты.
4. Меры защиты, направленные на нейтрализацию актуальных угроз безопасности технологий ИИ.
5. Основные положения политики обеспечения информационной безопасности при разработке и применении технологий ИИ.