Всем выйти из сумрака! Строим доверенную среду разработки ML-моделей

Искусственный интеллект сегодня не просто стал реальностью, он образует основу этой реальности. ИИ управляет современным оружием и производственными комплексами, пишет картины и задает тренды в моде, помогает безопасникам защитить критическую информационную инфраструктуру, а хакерам — планировать сложные атаки. Наконец, ИИ генерирует добрую половину т. н. «ударного контента» в современных информационных войнах. В докладе рассматривается возможная архитектура доверенных платформ разработки и эксплуатации ИИ, позволяющая защищать искусственный разум в процессе подготовки данных, обучения, тестирования, эксплуатации, переобучения и модификации. Учтен опыт различных видов атак на ИИ, зафиксированных в последнее десятилетие. Проводится сравнительный анализ различных методик тестирования, аудита и валидации платформ ИИ — методики OWASP и MIT, нормативка Евросоюза и других. Автор доклада — Андрей Масалович (КиберДед), президент консорциума «Инфорус», разработчик технологии интернет-разведки Avalanche. #phd2 #phdays #киберфестиваль