Leopold Aschenbrenner – Situational Awareness

В докладе  из серии эссе Леопольда Ашенбреннера обсуждаются стремительные достижения в области искусственного интеллекта (ИИ) и потенциальные последствия для будущего..

В Сан-Франциско шумят вокруг создания вычислительных кластеров стоимостью триллион долларов, поскольку крупные компании готовятся инвестировать триллионы долларов в технологии искусственного интеллекта. Гонка AGI (Artificial General Intelligence - искусственный интеллект общего назначения) началась: разрабатываются машины, способные думать и рассуждать, которые к концу десятилетия могут превзойти человеческий интеллект. В этой серии эссе рассматривается процесс перехода от нынешних возможностей ИИ к AGI и, в конечном счете, к сверхразуму. В ней также рассматриваются проблемы, связанные с этим прогрессом, такие как необходимость принятия мер безопасности для защиты секретов AGI, обеспечение соответствия систем ИИ человеческим ценностям и сохранение конкурентного преимущества свободного мира над авторитарными державами. Ашенбреннер подчеркивает важность понимания потенциального воздействия достижений ИИ и необходимость тщательного рассмотрения и подготовки к будущему. Серия эссе призвана дать представление и анализ этих сложных и быстро развивающихся технологий.