Киберпреступники используют ИИ-инструменты

Компания Trend Micro Incorporated, Европол и Межрегиональный Научно-исследовательский институт ООН по вопросам преступности и правосудия (ЮНИКРИ) подготовили совместный доклад, посвященный использованию искусственного интеллекта в противозаконных действиях — Exploiting AI: How Cybercriminals Misuse and Abuse AI and ML («Эксплуатация ИИ: как киберпреступники используют возможности искусственного интеллекта и машинного обучения и злоупотребляют ими»).

В докладе описаны существующие сценарии использования ИИ в преступных целях, возможные варианты развития инструментов киберпреступников в будущем, а также методы борьбы с ними, которые будут полезны представителям правоохранительных органов, правительственных и других организаций.

Авторы сообщают, что киберпреступники будут использовать ИИ и как вектор, и как поверхность атаки. В настоящее время дипфейки (Deep Fakes) остаются наиболее известным сценарием применения ИИ в качестве вектора атаки. Однако, по мнению авторов доклада, в будущем потребуются новые технологии проверки данных, которые помогут бороться с кампаниями дезинформации и попытками вымогательства, а также угрозами, нацеленными непосредственно на массивы данных ИИ.

Несколько примеров использования ИИ в преступных целях:

· крупномасштабные и правдоподобные атаки с использованием социальной инженерии;

· вредоносное ПО для уничтожения документов, которое повышает эффективность атак киберпреступников;

· обман систем распознавания изображений и голоса;

· помощь в поиске целей и уклонении от систем защиты при атаках с применением программ-вымогателей;

· «загрязнение» массивов данных за счет выявления слепых зон в правилах обнаружения.

Уже сейчас разрабатываются системы на базе ИИ, которые должны повысить эффективность вредоносного ПО и препятствовать работе антивирусов и технологий распознавания лиц.

ИИ уже используется для подбора паролей, взлома CAPTCHA и клонирования голоса, а в разработке находится еще немало инновационных инструментов.

Авторы дают несколько рекомендаций:

— Потенциал технологий ИИ необходимо использовать в качестве инструмента борьбы с киберпреступностью, чтобы защитить индустрию ИТ-безопасности и правоохранительные органы в будущем.

— Необходимо продолжать исследования, которые помогут развивать технологии кибербезопасности.

— Также необходимо популяризировать и разрабатывать безопасные среды проектирования ИИ.

— Политическую риторику об использовании ИИ в целях кибербезопасности стоит минимизировать.

— Рекомендуется активно использовать государственно-частное партнерство и создавать мультидисциплинарные экспертные групп.