Paloalto – Securing GenAI: A Comprehensive Report on Prompt Attacks: Taxonomy, Risks, and Solutions

Документ посвящен безопасности генеративного искусственного интеллекта (GenAI) с акцентом на атаки с использованием подсказок.

Ключевые выводы включают разработку таксономии атак на основе подсказок, их риски и решения. Обсуждаются основные векторы атак, такие как обход защитных механизмов, утечка информации и захват целей. В документе подчеркивается необходимость усиления защиты для борьбы с постоянными вызовами в области безопасности.