ГК InfoWatch вступила в Консорциум исследований безопасности технологий искусственного интеллекта

Стороны планируют объединить усилия в целях долгосрочного развития технологий доверенного и защищенного искусственного интеллекта, внедрения принципов безопасной разработки технологий ИИ для решения государственных задач, поставленных в национальных проектах Российской Федерации, говорится в документе. Эксперты ГК InfoWatch войдут в состав рабочих групп Консорциума и будут участвовать в разработке нормативно-правовой базы для реализации национальной стратегии развития искусственного интеллекта, тестировании уже существующих отечественных решений с точки зрения безопасности и в подготовке согласованных требований к процессам разработки при создании безопасных технологий ИИ.

Консорциум, созданный при поддержке Минцифры России, объединяет ИТ-компании, исследователей и представителей государственных органов. Сегодня в число членов объединения входит Академия криптографии Российской Федерации, Институт системного программирования им. В.П. Иванникова Российской академии наук, НКО «Фонд содействия развитию безопасных информационных технологий», Национальный исследовательский ядерный университет МИФИ, Высшая школа экономики и другие компании и профессиональные сообщества. Экспертиза ГК InfoWatch позволит расширить компетенции Консорциума и будет ценна для разработки подходов к оценке безопасности систем доверенного ИИ, исследований в области информационной безопасности и совершенствования нормативной базы, отметил лидер Консорциума, генеральный директор АНО «Национальный технологический центр цифровой криптографии», Игорь Качалин.

«Главная задача Консорциума – развитие и внедрение технологий искусственного интеллекта в России в соответствии с принципами надежности, прозрачности и этичности. ГК InfoWatch – одна из ведущих компаний на рынке информационной безопасности с внушительным опытом разработки решений с применением технологий ИИ, и мы рады будем использовать этот опыт для развития отечественных технологий», – говорит Игорь Качалин.

Наталья Касперская отметила, что сегодня технологии искусственного интеллекта широко применяются во всех отраслях, и на первый план выходит их безопасность и контролируемость. ГК InfoWatch как разработчик средств защиты информации, который в своих решениях и работе использует в том числе технологии ИИ, стремится внести свой экспертный вклад в развитие этого направления в России и будет активно участвовать в деятельности Консорциума, подчеркнула президент компании.

«Сегодня многие решения на базе искусственного интеллекта представляют из себя «черный ящик» – система принимает решение, и человек не может понять, почему оно именно такое. Эта проблема пока не решена, и над ее решением необходимо работать, в том числе в рамках Консорциума. Кроме того, бывают ошибки при построении систем ИИ – например, компрометация данных и самих систем, эти ошибки могут приводить к утечкам конфиденциальной информации. Для снижения подобных рисков и дальнейшего развития систем доверенного и безопасного ИИ необходимо объединять усилия экспертов, разработчиков и участников рынка», – подчеркнула Наталья Касперская.