Искусственный интеллект в информационной безопасности

В каких процессах и продуктах кибербезопасности искусственный интеллект может применяться уже сейчас. И где ИИ может серьезно облегчить жизнь команде защиты (Blue Team) в ближайшей перспективе, снизить кадровый голод и повысить эффективность обнаружение и отражения кибератак. 🔸 Машинное обучение или искусственный интеллект? Что в действительности у нас есть? 🔸 О нейросетях и машинном обучении (ML) в информационной безопасности говорят уже более 10 лет. Что изменилось? 🔸 Насколько киберпреступники продвинулись применении ИИ? 🔸 Где применение технологий ИИ дает эффект для команды защитников? 🔸 Может ли ИИ привести к непредсказуемым последствиям и угрозам безопасности? 🔸 Где применение ИИ дает преимущество перед человеком? Модератор: • Илья Шабанов Генеральный директор АМ Медиа Спикеры: • Максим Бузинов Руководитель R&D лаборатории, ГК «Солар» • Алексей Дашков Директор Центра продуктового менеджмента, R-Vision • Лидия Виткова Начальник аналитического центра кибербезопасности, «Газинформсервис» • Дмитрий Пудов Директор по стратегическому развитию, NGR Softlab • Алексей Пешик Инженер-эксперт, Security Vision • Алина Сергеева Эксперт по ИБ, «Лаборатория Касперского» • Александр Клевцов Руководитель направления InfoWatch Traffic Monitor, ГК InfoWatch 00:00:00 Вступление 00:01:32 Представление экспертов 00:11:04 Опрос • Применение машинного обучения и искусственного интеллекта в повседневной работе 00:14:16 Использование машинного обучения и искусственного интеллекта в ИБ • В различных областях ИБ, начиная с дата-центров и облачных технологий 00:18:48 Есть ли бум на ИИ в информационной безопасности? 00:22:44 Потребность в искусственном интеллекте • Большинство компаний пока не готовы к его полноценному внедрению 00:26:38 Предпосылки использования ИИ • Основная причина использования ИИ - увеличение объема данных, с которыми человек не справляется 00:30:28 Применение искусственного интеллекта в кибербезопасности 00:35:47 Влияние ИИ на киберпреступников • Фишинг и создание дипфейков. • Увеличить эффективность атак и снизить затраты 00:38:57 Фишинг и искусственный интеллект • Создание фишинговых писем, которые сложно отличить от реальных • Использование больших языковых моделей для написания кода и эксплоитов 00:45:23 Таргетированные атаки и сбор данных • Развитие средств сбора данных о пользователях и их использование для обучения искусственного интеллекта 00:48:20 Применение искусственного интеллекта в информационной безопасности • Использования искусственного интеллекта для выбора наиболее слабого звена в организации 00:50:29 Преимущества ИИ перед человеком 00:52:04 Применение искусственного интеллекта в расследовании инцидентов • Анализ больших объемов данных и выявление закономерностей, которые не всегда могут быть определены стандартными правилами корреляции • Для безопасной разработки программного кода, анализа уязвимостей и определения, действительно ли они являются таковыми 00:54:01 Правовые аспекты использования ИИ • ИИ не принимает решения, а участвует в анализе данных, поэтому его использование не нарушает правовые аспекты 00:56:23 Применение искусственного интеллекта в антифрод-системах, конкурентной разведке, расследовании сложных атак, поиске логотипов компаний 01:01:01 Замещение человека искусственным интеллектом • ИИ может сократить количество спама от СЗИ и облегчить работу оператора первой линии • Разделение труда между человеком и ИИ: человек принимает ключевые решения, а ИИ - обрабатывает данные и готовит отчеты • Снижение стоимости владения системой, что позволит человеку сфокусироваться на творческой работе и разработке регламентов 01:06:17 Трансформация профессий • Профессии не будут под угрозой, они будут трансформироваться 01:09:30 Применение искусственного интеллекта в конкретных областях ИБ • Автоматизация проведения расследований, выявление аномалий и отклонений в поведении сотрудников • Анализ и разбор нетекстовых данных: распознавание голоса, анализ изображений и машинное зрение 01:14:48 Применение ИИ для анализа сущностей • Использование больших языковых моделей на уровне ядра Linux для анализа данных 01:22:12 Применение искусственного интеллекта для реагирования на инциденты 01:35:19 Обеспечение безопасности моделей ИИ 01:42:52 Использования нейронных сетей для категоризации инцидентов в зависимости от их уровня критичности 01:56:10 Опрос о применении ИИ • Для работы аналитиков, автоматизации реагирования на инциденты и анализа программного кода 01:59:15 Кого и что ИИ заменит в кибербезопасности • Рутинную работу, но не смекалку и изобретательность человека • Агрегирование данных, но не полная замена специалистов по ИБ, разработки и пентестеров 02:10:53 Прогнозы • 1–2 года: автоматизация, оптимизация и поведенческая аналитика • 10 лет: внедрение продуктов с ИИ Подписывайтесь на трансляции AM Live Телеграм-канал Сотрудничество и связь с редакцией: author@ По вопросам рекламы: sales@