[SafeCode Live] ML в AppSec

— В AppSec ряд задач нельзя решить с помощью алгоритмов. В таких случаях на помощь приходит ML. Гости выпуска обсуждают: — кейсы использования AI: от оптимизации SQL-запросов и UI-дизайна до создания плагинов и применения LLM в разработке; — риски обучения на уязвимом коде; — естественный язык в Snowflake; — SecDev (решение задач безопасности) vs DevSec (контроль разработанного); — и «горячую» тему замены ИБ-специалиста ML-решением. Гости: — Радда Юрьева, ML-инженер команды AppSec в Positive Technologies. — Александр Халиков, специалист группы исследований безопасности приложений в Positive Technologies. — Владимир Кочетков, руководитель направления экспертизы AppSec в Positive Technologies. Ведущий: — Андрей Дмитриев, член Программного комитета конференции SafeCode. -- Полезные материалы От Радды: — Отличный опенсорсный WAF с обучающими видео на YouTube — Интервью с дата-сайнтистами и ML-инженерами из Airbnb, Reddit, Google. Реальные кейсы, ML-дизайн — Первые шаги в Data Science — Вводный бесплатный курс на русском, с математикой! И практическими заданиями От Саши — на английском: — Самый начальный гайд по современным LLM от создателя ULMFiT — методики, которая позволяет обучать модели глубокого обучения для анализа текста с минимальным количеством данных: — Канал Andrej Karpathy с плейлистом по созданию собственной нейронки и GPT-модели Andrej участвовал в разработке Codex, ядра Copilot и работал в Tesla. Cейчас работает в OpenAI. — Интервью с Andrej Karpathy: — Интервью с Wojciech Zaremba, сооснователем OpenAI: — Почитать про применение AI в задачах усовершенствования алгоритмов: — 2 видео для тех, кто хочет разобраться, как внутри работает самая популярная open-source LLM и закодить ее самостоятельно: и — Attention is all you need, архитектура трансформера: Учебники: — Machine Learning for Cybersecurity Cookbook, Emmanuel Tsukerman с решениями на GitHub — Машинное обучение и безопасность, Фримэн Дэвид, Чио Кларенс — Malware Data Science: Attack Detection and Attribution, Joshua Saxe, Hillary Sanders Telegram: