Почему нужна «цифровая гигиена» в диджитал-эпоху?

Цифровизация и искусственный интеллект — самые «модные игры», которые затягивают все больше участников: миллионы людей, крупные компании и предприниматели, а также государства. Обратная сторона цифрового рывка — новые виды мошенничества и утечки данных из сервисов, связанных с искусственным интеллектом. Растущие риски озвучены на самом высоком уровне - кибербезопасность стала темой совещания Совета безопасности Казахстана. Президент Касым-Жомарт Токаев, который видит страну в мировом диджитал-авангарде, призывает чиновников на ходу исправлять ошибки, которые привели к беспрецедентным утечкам личных данных казахстанцев летом этого года, и создать максимально безопасную цифровую среду для общества. Глава Ассоциации кибербезопасности Казахстана Виктор Покусов рассказал центру деловой информации Kapital.kz об уровне кибербезопасности и новых угрозах, а также дал советы «цифровой гигиены», которые помогут гражданам не стать жертвами киберпреступников, а предпринимателям не потерять данные клиентов, сохранить деловую репутацию и бизнес. 

Казахстан в рейтингах и реальность безопасности 

— Казахстан — один из лидеров в цифровизации не только на пространстве СНГ, но и в мире. У страны стабильно высокие международные рейтинги в этой сфере. О достижениях говорят и пишут много. Как вы оцениваете обратную сторону цифровой революции — кибербезопасности. Эта тема на неделе была в центре внимания совещания Совета безопасности, которое провел президент. Как вы это прокомментируете? 

— Действительно, то, что попадает в международные рейтинги, выглядит красиво и достижения в цифровизации невозможно отрицать. Банки внедряют передовые сервисы, государство поддерживает цифровые инициативы, президент уделяет большое внимание теме искусственного интеллекта, создано Министерство ИИ. Но рейтинги не учитывают главного — безопасности. В этом году было несколько громких утечек данных, о которых писали в СМИ и говорили на Совбезе. С одной стороны - это говорит о том, что не все меры безопасности принимаются, с другой стороны - киберпреступники постоянно развиваются и находят способы обходить защиту. Но я хочу отметить, что зачастую сами граждане легкомысленно делятся своими личными данными и оставляют информацию о себе в открытом доступе. Я не снимаю ответственности с частных компаний или государственных органов за безопасность хранения, использования и защиту персональных данных казахстанцев. Цифровые технологии сегодня активно внедряются на всех уровнях, но зачастую меры безопасности пока отстают по самым разным причинам. 

Многие пользователи и даже организации уверены, что их информация достаточно защищена, но реальность показывает обратное. Недавний кейс с массовой утечкой аккаунтов Gmail стал наглядным примером, каким бы продвинутым не был сервис или компания, абсолютной гарантии безопасности не существует. Информационная безопасность это не разовое мероприятие, а непрерывный процесс. И государственным органам, и крупным частным структурам необходимо регулярно проводить аудит на соответствие требованиям и стандартам информационной безопасности, тестирование на уязвимости и постоянно совершенствовать эти процессы.

Казахстан занимает 24-е место в мире по уровню цифровизации в рейтинге ООН, входит в топ-10 по индексу онлайн-услуг. 

Искусственный интеллект в руках миллионов пользователей  

— А как распространение технологии и сервисов ИИ влияет на статистику в сфере безопасности хранения данных? 

— Распространение технологий искусственного интеллекта, доступ к которым сегодня получают не только государство и бизнес, но и миллионы  рядовых пользователей - напрямую повышает риски сохранности данных. Технологии искусственного интеллекта в самом широком смысле слова вышли из офисов IT-корпораций и государственных учреждений на улицы городов.

Я помню, как в начале нулевых в кафе студенты обсуждали качество связи и услуги мобильных операторов, офисные работники хвастались у кого есть мессенджер ICQ, позже Skype, еще позже появились социальные сети. Сегодня школьники на своих смартфонах активно пользуются ChatGPT и другими AI-платформами. Это стало массовым явлением и частью молодежной культуры, когда повсеместно звучат фразы «спроси у ChatGPT» или «задай вопрос Gemini». Пока одни казахстанцы безобидно флиртуют с ChatGPT или используют его как персонального психолога, доверяя очень личную информацию о своей жизни, другие легкомысленно делятся с AI персональными и корпоративными данными, которые используют мошенники или недобросовестные конкуренты. То есть, если несколько лет назад утечки персональных данных в основном шли из переписки популярных мессенджеров, которые использовали системы облачного хранения данных, то теперь киберпреступники охотятся за этой информацией в сервисах ИИ, которые слабо защищены, потому что их системы безопасности только проходят испытание на прочность. И, к сожалению, самые широкие группы пользователей — от школьников до работников компаний — не задумываются о безопасности своих запросов или данных, которые они загружают своим онлайн-собеседникам. В том числе, когда делают запросы AI-помощникам по работе, используют или готовят внутренние документы.

Четыре главных риска работы с ИИ 

— Какие риски при использовании ИИ вы считаете ключевыми?

— Я бы выделил четыре:

• Зависимость и потеря критического мышления;

• Ошибки в профессиональной деятельности (юриспруденция, медицина, инженерия);

• Утечки данных — от персональных до корпоративных и государственных;

• Потеря цифрового суверенитета.

Зависимость от ИИ формируется быстрее, чем кажется. Сначала человек использует искусственный интеллект как инструмент — чтобы написать письмо, подправить текст или подобрать структуру документа. Но постепенно возникает привычка: «а зачем самому думать, если система подскажет?» Так и формируется зависимость.

Профессиональные риски: юристы и не только  

— Если говорить о профессиональной сфере, где риски проявляются сильнее всего?

— Яркий пример — юридическая практика. Некоторые молодые юристы начали использовать ChatGPT для составления исков или договоров. Но система иногда выдает ссылки на несуществующие судебные дела или искажает нормы права. Если такой «продвинутый юрист» не проверит результат, последствия могут быть очень серьезными и крайне неприятными для клиентов.

Критическое мышление против «подсказок» ИИ

— Мы рискуем столкнуться с деградацией критического мышления. Простой пример — автомобильные навигаторы: раньше человек знал карту города, ориентировался сам, а теперь полностью доверяет GPS. Если система ошиблась — водитель теряется. То же самое с ИИ: специалист перестает «держать в голове» логику процессов и полагается на подсказку. В долгосрочной перспективе это приводит к тому, что у людей снижается способность к самостоятельному анализу. 

Что нужно менять: советы для пользователей и компаний  

— Что нужно менять пользователям и компаниям, чтобы не попасть в истории об утечке данных и кибермошенничестве?

— Прежде всего нужны осознанный подход и культура поведения в цифровой среде. Проще говоря, список правил, который нужно аккуратно соблюдать при использовании мобильных приложений, авторизации. Мы в Ассоциации кибербезопасности, например, разработали курсы по цифровой гигиене и безопасному использованию ИИ. В ходе тренингов я часто сталкиваюсь с тем, что сотрудники компаний без колебаний загружают в ChatGPT конфиденциальные документы — договоры, отчеты, финансовые данные. Это огромный риск.

Отдельно хочу остановиться на теме использования и передачи личных данных граждан государственными органами. Правоохранительные органы получают доступ к данным по специальному запросу в интересах следствия или с санкции суда. Эта четко прописанная в законе процедура. Но очень часто люди, которые не имеют отношения к силовым структурам, пользуются доступом к персональным данным казахстанцев. Например, медработники или сотрудники ЦОНов, работники управлений земельными ресурсами. Здесь нужно усилить контроль за соблюдением регламента доступа. Это только один из примеров. От государства нужны четкие правила кто может получить доступ к данным, ответственность прописать за нарушение правил. 

Цифровая гигиена и правила безопасности 

—  На уровне обычного пользователя все начинается с цифровой гигиены. Это несложные, но обязательные правила на каждый день, которые хорошо знакомы пользователям, но о которых забывают в «цифровой лихорадке». 

• использовать разные пароли для разных сервисов;

• не хранить их в открытом виде;

• ограничивать количество приложений, которые имеют доступ к персональным данным;

• минимизировать «цифровой след».

На корпоративном уровне нужны внутренние регламенты: что можно загружать в ИИ, а что категорически запрещено. Нужны локальные разработки, защищенные сервисы, которые работают в пределах страны и не передают данные за рубеж. 

В Казахстане сегодня данные граждан и компаний в основном хранятся на серверах госорганов, банков и крупных операторов связи. Часть информации размещается в национальных дата-центрах, но нередко используется и зарубежная инфраструктура. Формально контроль есть: государство регулирует вопросы доступа, банки обязаны соблюдать требования по защите информации, компании внедряют свои системы безопасности. Но на практике слабые места остаются, а зачастую безопасность остается на бумаге. Иногда это человеческий фактор, когда рядовой сотрудник или чиновник имеет слишком широкий доступ, иногда технические пробелы, когда системы не обновляются вовремя или спроектированы с упущениями. 

Сегодня очевидно, что ИИ — это мощный инструмент, который может ускорить работу, помочь в обучении, облегчить многие процессы. Но относиться к нему нужно осторожно. Всегда проверять результат, соблюдать цифровую гигиену и выстраивать систему безопасности.

Автор: Тимур Джумаджанов