Lakera – GenAI Security Readiness Report, 2024

Отчет «Готовность к безопасности GenAI 2024» от Lakera исследует быстрое внедрение технологий генеративного ИИ (GenAI) и соответствующие проблемы безопасности, с которыми сталкиваются организации. В отчете указано, что почти 90% организаций активно внедряют или планируют изучать случаи использования больших языковых моделей (LLM). Однако только около 5% чувствуют высокую уверенность в своей готовности к безопасности ИИ. Это несоответствие подчеркивает критическую необходимость в надежных стратегиях безопасности, адаптированных к уникальным вызовам GenAI. Исследование также отмечает, что 35% респондентов обеспокоены надежностью и точностью LLM, в то время как 34% беспокоятся о конфиденциальности данных и безопасности. Кроме того, только 22% приняли модели угроз, специфичные для ИИ, для решения проблем, связанных с GenAI. В отчете подчеркивается важность разработки адаптивных, управляемых ИИ мер безопасности и формирования глубокого понимания среди разработчиков ИИ и специалистов по безопасности для эффективного снижения этих новых рисков.