Falling Asleep at the Wheel by Fabrizio DellAcqua
В книге "Falling Asleep at the Wheel" Фабрицио Деллакуа рассказывает о проблеме внедрения искусственного интеллекта (ИИ) в организационную структуру, обеспечивая при этом внимательность и вовлеченность работников.
Хотя компании используют алгоритмы ИИ для принятия решений о найме, они часто не решаются полагаться исключительно на ИИ при приеме на работу, предпочитая, чтобы последнее слово оставалось за человеком. Однако по мере повышения эффективности ИИ возрастает соблазн делегировать принятие решений искусственному интеллекту, что может привести к бездумному следованию его рекомендациям без критического осмысления. Для решения этой проблемы автор разработал формальную модель, в которой рассматривается компромисс между точностью ИИ и усилиями человека. По мере повышения точности ИИ у человека может снижаться стимул прилагать усилия. В рамках данного исследования был проведен натурный эксперимент с рекрутинговой компанией, в ходе которого профессиональные рекрутеры оценивали кандидатов на работу на основе алгоритмических рекомендаций разного качества. Эксперимент показал, что более качественная помощь ИИ привела к менее точным оценкам со стороны опытных рекрутеров, что говорит о том, что их способность самостоятельно мыслить и улучшать рекомендации ИИ была ограничена. Результаты эксперимента подчеркивают необходимость учета целей организации и конкретной задачи при проектировании совместной работы человека и ИИ. Максимизация эффективности взаимодействия человека и ИИ не обязательно означает максимизацию эффективности только ИИ. В некоторых случаях для стимулирования человеческих усилий и критического мышления может быть предпочтительнее использовать менее качественный ИИ. В статье представлены теоретический обзор, формальная модель, а также детали экспериментальной схемы и анализа. Полученные результаты подчеркивают сложное взаимодействие навыков и технологий в человеко-машинном взаимодействии и важность учета особенностей задачи при разработке эффективных структур для такого взаимодействия.
