Всем выйти из сумрака! Строим доверенную среду разработки ML моделей. Кибердед на PHDays 2.

Всем выйти из сумрака! Строим доверенную среду разработки ML моделей. Кибердед на PHDays 2. Искусственный интеллект сегодня не просто стал реальностью, он образует основу этой реальности. ИИ управляет современным оружием и производственными комплексами, ИИ пишет картины и задает тренды в моде, ИИ помогает защитить критическую информационную инфраструктуру и помогает хакерам планировать сложные атаки. Наконец, ИИ генерирует добрую половину т.н. “ударного контента“ в современных информационных войнах. В докладе рассматривается возможная архитектура доверенных платформ разработки и эксплуатации ИИ, позволяющая защищать искусственный разум в процессе подготовки данных, обучения, тестирования, экплуатации, переобучения и модификации. Учтен опыт различных видов атак на ИИ, зафиксированных в последнее десятилетие. Проводится сравнительный анализ различных методик тестирования, аудита и валидации платформ ИИ - методики OWASP и MIT, нормативка Евросоюза и др. Запись доклада тут - ht