RAND Europe – Strengthening Emergency Preparedness and Response for AI Loss of Control Incidents

Основная тема отчета заключается в анализе рисков и стратегий реагирования на чрезвычайные ситуации, связанные с инцидентами потери контроля над продвинутыми системами искусственного интеллекта (ИИ).

Ключевые выводы включают в себя: Риски потери контроля становятся все более вероятными и остаются нерешенными. Исследователи выявили признаки возможностей подрыва контроля в продвинутых моделях ИИ, такие как обман, самосохранение и автономное воспроизведение. Существуют проблемы с обнаружением и ранним предупреждением, так как правительствам и другим заинтересованным сторонам не хватает общей структуры для анализа и реагирования на риски потери контроля.