Сомнительная ИИ-нициатива бигтеха: ИБ-эксперты против ослабления закона о ПДн

Напомним, членами АБД являются такие ИТ-гиганты, как «Яндекс», VK, «Авито», «Сбер», «Ростелеком», HeadHunter, еще несколько крупных банков и операторов связи. Как стало известно СМИ, 3 августа ассоциация направила в Минцифры обращение с предложением о доработке закона о персональных данных (152-ФЗ). Участники просят законодательно предоставить им право на обработку персональных данных без согласия граждан в целях разработки, обучения и использования искусственного интеллекта. Авторы инициативы уверяют, что ПДн будут обрабатываться обезличенно и с использованием технологий повышения приватности – так называемых PETs (Privacy Enhancing Technologies), на территории России и только российскими компаниями.

Эксперты рынка ИБ при этом отмечают, что подобный проект возможен только при наличии понятных правовых рамок и гарантий защиты данных.

В АБД полагают, что предлагаемые ИТ-гигантами меры позволят исключить возможность идентификации конкретного человека, в том числе со стороны ИИ-модели. Вернее, как передают источники, риск раскрытия личности в этом случае «равен нулю или не превышает малые доли процента». То есть определенное допущение угрозы члены АБД на этом этапе, кажется, уже закладывают, что является первым сигналом тревоги. Известно, что ИИ отлично справляется с поиском уязвимостей и аномалий в большом объеме данных, даже если их доля «не превышает малые доли процента».

10 августа президент группы компаний InfoWatch Наталья Касперская опубликовала в своем ТГ-канале пост, где описала особенности разных типов PETs, выказала сомнения по поводу безопасности и законности предложенных АБД методов, а также по поводу возможности гарантированной деперсонализации данных в целом.

Ссылаясь на доверенные источники, Наталья Касперская перечислила несколько наиболее популярных программных способов повышения приватности: «замыливание» персональных данных (в мировой терминологии это Differential Privacy, или дифференциальная приватность), государственный обмен ограниченными до минимально необходимых наборов данными на уровне группы исследовательских или медицинских учреждений, безопасные многосторонние вычисления (SMPC, secure multi-party computation), гомоморфное шифрование (homomorphic encryption),  псевдоанонимизация, метод синтетических данных. Некоторые из них достаточно сложные, качественные, но дорогостоящие, а другие – более простые и менее надежные.

Президент ГК InfoWatch Наталья Касперская
Фото: InfoWatch

«Методы обезличивания действительно существуют и вроде как даже довольно эффективные, по заверениям разработчиков.

Но, во-первых, даже на первый взгляд перечисленные методы плохо подходят для обучения нейросетей.

Во-вторых, чем надежнее скрыты (зашумлены, зашифрованы) данные, тем сложнее и дороже их использование для обучения ИИ. А если же компании получат право самостоятельно обезличивать данные, то какой метод они выберут – самый надежный или самый дешевый?

В-третьих, проверка и сертификация анонимизации — это технически довольно сложная задача. Кто будет этим заниматься? Или дело ограничится собственными добровольными декларациями компаний в духе «мамой клянусь, что надёжно»?

Наконец, есть виды данных, обезличивание на которых вообще не работает. Например, распознавание лиц. Обезличивай – не обезличивай, а лицо всё равно привязано к конкретному человеку», – резюмирует Наталья Касперская.

Основной вопрос, который волнует эксперта, – зачем вообще АБД нужны персональные данные в контексте обучения ИИ? По предположению Натальи Касперской, целями компаний бигтеха модут быть, например, создание более таргетированной рекламы, формирование индивидуальных образовательных траекторий или социального рейтинга.

С выводами о бесполезности таких мер для обычных граждан сложно спорить. Мало кто получает удовольствие от просмотра навязчивой рекламы или от понимания того, что его включили в некий «социальный рейтинг». В современном обществе всё больше ценится индивидуальна позиция, формирование собственных/командных компетенций, возможность самому делать выбор.

«Точно ли стоит ради этих сомнительных или прямо вредных целей отменять или ослаблять ФЗ-152 о защите персональных данных, который в ноябре 2024 года был усилен законодателями при активном сопротивлении цифрового бизнеса и АБД (помните — были введены оборотные штрафы, уголовная ответственность руководства компаний и госорганов за утечку ПДн)?» – пишет Наталья Касперская. Эксперт надеется, что «данная антиконституционная и антиобщественная инициатива АБД реализована не будет».

Вероятно, для создания более четкой картины происходящего АБД нужно как минимум пояснить, какие технологии повышения приватности они намерены использовать, для каких конкретно целей ИИ будет обучаться на этих данных, какие риски существуют и как компании намереваются их снижать. На данный момент, действительно, государство достаточно строго защищает ПДн, ставя во главу угла права граждан, а не меркантильные интересы корпораций. Прецедентов с ослаблением ФЗ-152 хотелось бы избежать.