В статье рассматриваются последние достижения в области больших языковых моделей (LLM) и генеративного ИИ.
Авторы поясняют, что LLM могут обучаться на различных архитектурах и не ограничиваются моделями на основе трансформаторов. Упоминается, что LLM могут обрабатывать и генерировать различные формы последовательных данных, помимо естественного языка. Авторы поясняют, что в статье они используют термины LLM и GPT как взаимозаменяемые, имея в виду модели, подобные тем, что доступны через ChatGPT. Авторы подчеркивают важность интеграции LLM с более крупными системами для достижения максимального эффекта от их использования и признают, что LLM могут применяться не только для генерации текстов, но и для решения других задач, таких как поиск, обобщение и классификация. Для оценки потенциального влияния LLM на работу авторы предлагают новую рубрику, которая измеряет степень подверженности задач воздействию LLM. Они собрали человеческие аннотации и, используя GPT-4 в качестве классификатора, применили эту рубрику к данным о профессиях в экономике США. Анализ показывает, что примерно 19% заданий имеют значительную подверженность LLM, и это число может возрасти до 49%, если учесть другие генеративные модели и дополнительные технологии. Авторы также рассматривают корреляцию между степенью подверженности LLM и различными факторами, такими как набор навыков, барьеры входа и отрасль. Выяснилось, что некоторые профессии, в частности те, которые связаны с программированием и написанием текстов, в большей степени подвержены влиянию LLM. В заключении работы говорится о том, что влияние LLM, скорее всего, будет повсеместным, и ожидается, что их потенциал будет расти даже без дальнейшего развития. Авторы подчеркивают общецелевой потенциал ОМС и отмечают, что их исследование позволяет измерить потенциал воздействия ОМС и продемонстрировать эффективность использования ОМС для разработки таких измерений в масштабе. Авторы признают, что изменение потенциала воздействия ОДУ с течением времени может быть трудно предсказуемым и регулируемым для политиков.