Атаки на AI-чат-боты и методы защиты / Евгений Кокуйкин (Raft)

МТС — генеральный партнёр конференции Saint HighLoad 2024. ________ Профессиональная конференция разработчиков высоконагруженных систем Saint HighLoad 2024 Презентация и тезисы: В докладе рассмотрим новые виды атак на чат-боты, использующие LLM. Разберем, как обходят safety layer моделей, как работают prompt injection и разные виды jailbreak. Разберем виды и классификации атак по разным фреймворкам. ... -------- Нашли ошибку в видео? Пишите нам на support@