От сотрудничества до контроля. InfoWatch – о безопасности детей и подростков в Сети

Опасность цифрового разрыва

По мнению Дениса Денисова, «цифровой разрыв» между поколениями постоянно возрастает, поскольку информационные технологии развиваются очень быстро: «Пока родители осваивают Госуслуги и борются с электронным дневником, дети используют ChatGPT, чтобы выполнять домашние задания, и отправляют классному руководителю аудиосообщение с поддельным голосом родителя, созданным с помощью нейросети». К несчастью, помимо детей, эти новые информационные технологии быстро берут на вооружение злоумышленники.

По наблюдению спикера, с начала 2020-х годов по текущий момент в индустрии ИБ в целом главенствуют две основные тенденции. Первая – это рост востребованности нейросетей, которые преступники используют для генерации поддельных голоса, видео и фотографий (GenAI), а также для автоматизации общения с потенциальными жертвами (чат-боты). Таким образом мошенники могут охватить наиболее широкую и разнообразную аудиторию, при этом сами они включаются в процесс на последнем этапе, поскольку всю подготовительную работу проделал ИИ.

Эксперт по информационной безопасности ГК InfoWatch Денис Денисов
Источник: запись конференции ТАСС

Вторая тенденция – формирование киберпреступности в организованные сообщества, которые в ряде случаев поддерживаются на государственном уровне. Например, недавно представители ФСБ объявили, что на Украине насчитывается от 120 до 150 колл-центров, которые курируются спецслужбами недружественных по отношению к России стран. Только за 2024 год такие группы выманили у граждан России около 170 млрд рублей.

«Как развитие киберугроз влияет на детей? Казалось бы, только недавно мы с ИБ-специалистами и психологами обсуждали, что делать с детской интернет-зависимостью. Только мы разработали меры, как ребенка вытащить из сети Интернет, возникла коммуникационная зависимость, которая гораздо страшнее. Только разобрались с коммуникационной зависимостью, начала появляться зависимость от нейросетей, и теперь мы ломаем голову, что с этим делать», – рассказал Денис Денисов.

InfoWatch: эволюция киберугроз в отношении детей
Источник: запись конференции ТАСС

Зависимость детей и подростков от нейросетей и бесконтрольное их использование влекут за собой четыре главные опасности.

Первая опасность – потеря ребенком социальных связей, привычного круга общения, полное погружение в виртуальный мир. ChatGPT, «умная» колонка Алиса или другой доступный сервис становится для ребенка не просто помощником или средством развлечения, а главным другом и авторитетным советчиком. Происходит подмена нейросетью как сверстников, так и взрослых.

Вторая опасность – риски нейрогаллюцинаций. Известно, что если у нейросети недостаточно знаний, чтобы грамотно решить задачу или дать правильный ответ, то она этот ответ придумывает. Ребенок, не имеющий должного жизненного опыта и критического мышления, может этот ответ принять за истину.

Третья опасность – формирование у ребенка ложного представления о себе и об окружающем мире из-за того, что нейросеть подстраивается под его запросы и в основном выдает положительную обратную связь.

Четвертая опасность – использование помощи нейросети вместо необходимого самостоятельного умственного труда: например, при выполнении домашнего задания.

«Мы много с ужасом говорили о том, что ребенок вместо того, чтобы учиться, ищет информацию в сети Интернет. Но для этого ему хотя бы нужно зайти в браузер, перелопатить информацию, что-то посмотреть самому. Теперь ему даже этого не надо. Он заходит в ChatGPT и делает запрос: «напиши сочинение в моем стиле для шестого класса по такой-то теме на оценку четыре». И он действительно получает сочинение, сгенерированное в его стиле, потому что он уже научил этому ChatGPT», – привел пример Денис Денисов.

Как действуют злоумышленники

В последнее время участились случаи, когда подростки вовлекаются в преступность, вплоть до террористических актов, через Интернет: например, известны случаи диверсий на железных дорогах, поджога вышек сотовой связи и банкоматов, магазинов и кафе, нападений на школы и многие другие. «Физическая» подростковая преступность сегодня во многом вытесняется киберпреступностью, что неудивительно с учетом цифровизации и диджитализации всех сфер деятельности. Как это происходит?

Специалист InfoWatch привел типовую схему действий киберпреступников по привлечению детей и подростков к незаконным действиям.

InfoWatch: типовой алгоритм злоумышленников
Источник: запись конференции ТАСС

Первый этап – поиск потенциальной жертвы. В первую очередь злоумышленники обращают внимание на социально активных детей, которые переписываются в чатах, ведут аккаунты и паблики в социальных сетях.

Второй этап – знакомство. Злоумышленник, например, может представиться сверстником, наставником, администратором, тренером, промоутером, продюсером и т. д. – это зависит от его «специализации».

Третий этап – формирование «цифрового портрета» ребенка: выявление его интересов, характера, социальных связей, уровня дохода родителей и других ценных для злоумышленника сведений. Если преступник понимает, что ребенок не подходит под его «специализацию», он может передать его другому преступнику, действующему в рамках того же киберпреступного сообщества.

Дальнейшие этапы – установление доверительных отношений, постепенное вовлечение ребенка в коммуникации, подчинение и склонение к действиям. При этом злоумышленники используют психологические особенности детей разного возраста.

InfoWatch: особенности киберрисков в отношении младших школьников
Источник: запись конференции ТАСС

Так, для детей младшего возраста характерна размытость личных границ: ребенок еще сильно привязан к родителям, он доверяет взрослым, стремится заслужить их поощрение. При этом сами родители, а также школа зачастую, сами того не желая, провоцируют у ребенка небезопасное поведение в Интернете: например, выкладывая их фотографии с двусмысленным или неприемлемым содержанием. В результате ребенок не учится определять разницу между между родителем, взрослым знакомым, учителем и анонимным собеседником из сети Интернет, что может иметь страшные последствия.

Кроме того, ребенок, который ищет поощрения и признания взрослых, открыт для общения и с готовностью может выполнять задания, особенно когда они подаются в игровой форме. Злоумышленник, завоевав доверие ребенка, начинает вовлекать его постепенно, поначалу давая простые и вполне безобидные задания. Например, в прошлом году было много случаев, когда преступники давали детям простые задания и вознаграждали их переводом игровой валюты, а через месяц или два в такой же игровой форме просили взять телефон родителей и отправить большую сумму денег на неизвестный счет.

InfoWatch: особенности киберрисков в отношении подростков
Источник: запись конференции ТАСС

Для подростков же характерны поиск идентичности, потребность принадлежать к «стае», поиск своих, склонность к протесту. С одной стороны, подросток хочет выделиться и показать уникальность, а с другой – у него обостренная потребность принадлежать к какой-то группе. Интернет предлагает ему огромный выбор, и среди этих вариантов много опасных.

Что делать, чтобы защитить детей от киберрисков

Родителям необходимо, как минимум, осознание проблемы и активное вовлечение во взаимодействие с детьми – от сотрудничества до контроля – в зависимости от их возраста и психологических особенностей.

С детьми младшего школьного возраста важно реализовать правило «Поделись с родителями»: ребенок должен знать, что родители всегда на его стороне и всегда помогут, если его что-то смущает или он чего-то боится. Это правило должно быть подтверждено на практике: родитель должен быть всегда готов поддержать ребенка, либо в более сложных ситуациях проконсультироваться со специалистами. Кроме того, необходимо укрепление личных границ ребенка и формирование его правильного поведения в цифровом пространстве так же, как это происходит в физическом мире. Наконец, родителям самим нужно учиться цифровой гигиене и передавать знания детям: например, какие ресурсы лучше не посещать, как ограничить общение с подозрительными лицами в мессенджере, какие данные не стоит размещать в Интернете.

С подростками применяется обратная тактика, поскольку они, как правило, отвергают авторитет родителей и ищут его на стороне. Хорошо, если такой авторитет ему предложат родители: например, в лице тренера секции, классного руководителя, хорошего друга семьи, семейного психолога. Это тот человек, с которым подросток может поделиться своими проблемами, понимая, что его не отругают и не накажут, а как минимум выслушают. Необходимо мониторить и корректировать состояние подростка, что бывает очень тяжело, особенно если ответом становится агрессия или замкнутость. Родителю нужно это пережить, набраться терпения, пока завершится гормональная перестройка. При этом нужно понимать, что за агрессивным поведением часто кроется какая-то проблема или незакрытая потребность, которую нужно выявить и помочь ребенку с ней разобраться.

«Например, подросток начинает выкладывать в сеть Интернет провокационный контент: снимать эпатирующие, шокирующие видео, подражать какому-то опасному челленджу. Родитель может выяснить, что за этим стоит потребность признания, самореализации, получения одобрения от «своих». Что можно сделать? Предложить: давай мы повысим качество видео, которые ты снимаешь. Добавим анимацию, звуковую дорожку, эффекты с помощью тех же нейросетей. И постепенно акцент видео будет смещаться с провокационности контента на его качество, различных особенностях монтажа. Это может сработать, но может и не сработать. Поэтому нам и надо выявлять психологические особенности конкретного подростка, понимать, какая проблема, потребность перед ним стоит, искать индивидуальный подход. Здесь нет универсальных советов и решений», – заметил Денис Денисов.

Также нужно делиться информацией с подростком, сообщать ему важные сведения о безопасности, цифровой гигиене и киберрисках и получать обратную связь, даже если предел его внимания – три-пять минут. Забирать гаджет – плохой вариант, но можно договориться о правилах его использования. В результате общения и налаживания более доверительных отношений оградить юного гражданина от киберрисков и потенциальных противозаконных действий в Сети можно намного эффективнее.