Развитие искусственного интеллекта стало серьёзным вызовом для информационной безопасности. По данным соцопросов, технология вызывает беспокойство у большинства россиян именно в связи с угрозами мошеннических атак. Однако тот же ИИ сегодня активно используется российскими специалистами для разработки инструментов, помогающих защищать пользователей от злоумышленников. RT поговорил с экспертами в сфере кибербезопасности, чтобы выяснить, как разработки на основе ИИ уже сегодня борются с дипфейками, фишинговыми ресурсами и кибермошенничеством.
Новости о новых схемах кибермошенничества с использованием ИИ регулярно появляются в СМИ. Так, 19 октября эксперты по кибербезопасности предупредили россиян о случаях мошенничества с дипфейками знаменитостей. Злоумышленники создают реалистичные видео для распространения ложной информации, например о предстоящих концертах зарубежных звёзд. Одним из примеров стал Канье Уэст.
Мошенники задействуют искусственный интеллект и во многих других сферах. Аналитики F6, например, выявили схему обмана при публикации объявлений об аренде жилья. Злоумышленники создают фейковые сайты, имитирующие популярные сервисы, заполняя их фотографиями квартир, которые зачастую сгенерированы ИИ. Такие фото уникальны, поэтому распознать подлог выходит далеко не всегда.
Сегодня большинство россиян считают ИИ серьёзной угрозой. Согласно недавнему исследованию сервиса коммуникаций «Контур.Толк» и продуктовой группы «Контур.Эгида», в котором приняли участие 1,2 тыс. работающих граждан, 50% боятся дипфейков, переживая, что с их помощью их могут обмануть мошенники — украсть сбережения или оформить кредит, а 43% респондентов беспокоятся, что злоумышленники могут использовать ИИ, чтобы обмануть их близких.
Впрочем, есть и те, что в целом оптимистично смотрят на развитие новой технологии: 22% опрошенных видят в развитии ИИ как минусы, так и плюсы, а 16% спокойно воспринимают искусственный интеллект.
Опрошенные RT эксперты сходятся во мнении, что ИИ может быть использован «как во зло, так и во благо».
Так, руководитель департамента информационно-аналитических исследований компании T.Hunter Игорь Бедеров в беседе с RT назвал основными угрозами, исходящими от ИИ, совершенствованный фишинг и социальную инженерию, дипфейки, автоматизацию вредоносного ПО и новые возможности для адаптации кибератак. Однако, по словам эксперта, этот же инструмент уже активно используют в разработке современных решений по обеспечению кибербезопасности.
«Российские компании и государственные структуры активно развивают и внедряют системы кибербезопасности на основе искусственного интеллекта для парирования новых угроз. В их числе выявление утечек данных и анализ поведения в DLP-системах, системы защиты от фишинга и мошенничества, обнаружения кибератак и противодействия дипфейкам», — говорит эксперт.
Корпоративные клиенты
Сегодня российские специалисты по кибербезопасности внедряют ИИ прежде всего в продукты, предназначенные для корпоративных клиентов, — именно на их стороне легче всего предотвращать случаи мошенничества.
Генеративные модели стали инструментом как для сотрудников ИТ-компаний, например в части написания кода, так и для киберпреступников,…
«Один из основных способов, который пришёл на смену классическим антивирусам, — проверка подозрительных файлов, основанная на знании и анализе паттернов поведения вредоносного ПО. Это трудно сделать человеку, а искусственный интеллект и машинное обучение позволяют выявить эти признаки. Это основное отличие от традиционных антивирусов, то есть средств защиты XX века», — объясняет эксперт по кибербезопасности F6 Сергей Золотухин.
По его словам, основная такая технология, задействующая ИИ, — система класса «песочница». Все файлы, поступающие на компьютеры корпораций, сначала запускают в безопасной среде, ИИ анализирует их на признаки вредоносного поведения, и только в случае успешной проверки они отправляются на компьютеры сотрудников. Это помогает отсеивать файлы, представляющие угрозу.
«Сегодня такие программы на основе искусственного интеллекта и машинного обучения защищают, например, онлайн-банки. Это особенно актуально в России, где практически у каждого есть онлайн-банк», — говорит Золотухин.
По его словам, онлайн-банки также используют системы кибербезопасности на основе ИИ для анализа пользовательского поведения. Отслеживая нетипичные для конкретного пользователя паттерны, например работы с клавиатурой, тачпадом или мышью, программа может понять, что сессию проводит другой человек. При этом инструмент встроен в систему и технологически не требует от самого пользователя ничего — ему не нужно ничего скачивать, устанавливать или покупать, чтобы обезопасить себя.
«Такие инструменты в дополнение к обычным транзакционным антифродам — это те, что отслеживают, например, если операция совершается не в той стране, не в то время, не с той суммой или там делают 100 переводов подряд, то есть выявляют наиболее явные признаки мошенничества. А в случае с ИИ выявляются признаки, что сама онлайн-сессия с банком плохая», — говорит собеседник RT.
Развитие дипфейк-технологий
Эксперты констатируют, что развитие нейросетей приводит к улучшению качества дипфейков, используемых злоумышленниками. Поэтому специалисты по кибербезопасности вынуждены постоянно искать новые способы их выявления.
«Раньше можно было вычислять дипфейки по неправильным, квадратным зрачкам глаз, по неестественному освещению кожи, отсутствию морщин. Специалисты по кибербезопасности учили ИИ выявлять в автоматизированном виде такие атаки. Но ИИ развивается, и злоумышленники этим пользуются, — говорит Сергей Золотухин. — Если раньше можно было по частотной характеристике понять, что голос искусственно смоделирован, то современные программы используют реальный голос реального человека, который могут взять из голосовых сообщений или даже из телевизора. Это новый вызов, и идёт борьба».
В свою очередь, эксперт по кибербезопасности «Контур.Эгиды», директор по продукту Staffcop Даниил Бориславский отмечает, что антидипфейк-технологии сегодня востребованы прежде всего организациями, так как требуют встраивания в бизнес-инструмент — например, в сервисы видеоконференцсвязи или мессенджеры. При этом разработка и интеграция таких сервисов в продукты ИТ-компаний часто требуют большого количества ресурсов.
«Если это внутреннее решение или сервис по подписке, то можно сделать такую интеграцию. Для безопасных коммуникаций пользователей в мессенджере нужно встроить инструмент в сам мессенджер, что может быть невыгодно разработчикам, так как повлечёт существенные затраты ресурсов на детектирование и внедрение технологии», — предупреждает эксперт.
Антифишинг
Другое направление борьбы с кибермошенниками, на котором активно используют ИИ, — выявление фишинговых ресурсов. Как отметил в беседе с RT руководитель R&D-направления Центра технологий кибербезопасности ГК «Солар» Максим Бузинов, таргетированный фишинг, как и дипфейки, всё ещё остаётся весьма дорогим инструментом для мошенничества. При этом борьба с ними ведётся именно с применением ИИ, добавляет Сергей Золотухин.
GR-директор компании «Код безопасности» Александра Шмигирилова выразила мнение, что число дипфейков — поддельных аудио- и…
«Чтобы такие фейковые сайты не смогли распознать системы автоматического поиска фишинговых ресурсов, злоумышленники, например, подменяют картинки (на фейковом сайте) или поворачивают картинку на какой-то угол. Для простой машинной системы поиска эта картинка становится другой, и она её не распознаёт», — объясняет собеседник RT.
По словам эксперта, задача ИИ на этом направлении — выявление неправомерного использования бренда благодаря поиску таких похожих изображений. Эту технологию злоумышленники изначально использовали для подмены названий сайтов — например, заменяя буквы в названии ресурса неотличимыми, такими как английская заглавная I и маленькая L. Сегодня аналогичный принцип используется с изображениями, и выявлять такие замены учат ИИ.
«Это угроза, по которой сейчас активно работают специалисты, и да, сейчас уже это возможно — распознавание вот таких фишинговых сайтов с «неправильными картинками», — подытожил Золотухин.
Решения для пользователей
Несмотря на то что большая часть современных антифрод-инструментов ориентирована именно на корпоративных клиентов, эксперты не исключают, что в скором будущем похожие решения на основе ИИ будут предлагаться и обычным пользователям. Впрочем, здесь пока есть некоторые сложности.
«У обычных пользователей нет информационных систем, поэтому меньше объектов для защиты. По большому счёту для обеспечения информационной безопасности пользователям нужно защитить личные финансы, персональные данные и репутацию. Для этого есть разные инструменты антифрода у банков и сотовых операторов; обучения и повышения уровня информационной грамотности», — перечисляет Даниил Бориславский.
Руководитель R&D-направления Центра технологий кибербезопасности ГК «Солар» Максим Бузинов также отмечает, что существующие сегодня комплексные решения, как правило, учитывают специфику каждого заказчика, из-за чего сильно раздуваются, становясь очень дорогими и тяжёлыми в эксплуатации для отдельных пользователей.
При этом защита малого бизнеса и обычных людей остаётся перспективным направлением, которое, по всей видимости, будет развиваться в ближайшие годы, допускает эксперт.
«Мы видим это и сейчас создаём некие прототипы, ведём исследования, как сделать такие «облегчённые» решения. Например, мы подавали заявку на хакатон с идеей лёгкой версии DLP-системы Solar Dozor для малого бизнеса или даже для обычных пользователей. Это продукт, который с помощью базовых инструментов защищает человека от утечек его данных или важных сведений, перемещение которых он хочет контролировать. Думаю, в будущем подобные инструменты станут более доступными», — заключил собеседник RT.
Добавить комментарий