5 интересных статей, которые ясно объясняют суть магистерских программ (LLM).

Хотите лучше понять, что такое магистерские программы? Начните с этих пяти основополагающих работ, которые объясняют, как они работают.

# Введение

Большие языковые модели (БЛМ) поначалу могут показаться сложными. В них используются трансформеры, слои внимания, законы масштабирования, предварительное обучение, настройка инструкций, обратная связь от пользователя, поиск информации и множество других концепций. Но лучший способ понять большие языковые модели — не начинать с огромного учебника. Лучше прочитать несколько важных статей, каждая из которых объясняет одну из основных частей системы . Эта статья является частью увлекательной серии, где мы учимся, изучая основные идеи, практические проекты и научные работы, лежащие в основе современных технологий. В этой статье мы рассмотрим пять статей, объясняющих, как работают БЛМ . Итак, начнём.

# 1. Внимание — это всё, что вам нужно.

Это статья « Внимание — всё, что вам нужно», в которой представлена архитектура Transformer , являющаяся основой современных языковых моделей. До появления Transformer многие языковые модели использовали рекуррентные или сверточные архитектуры для обработки последовательностей. В этой статье показано, что одного лишь внимания может быть достаточно для построения мощной модели обработки последовательностей. Наиболее важной концепцией в этой статье является самовнимание. Самовнимание позволяет каждому токену в последовательности анализировать другие токены и определять, какие из них наиболее важны. Это одна из причин, по которой языковые модели могут понимать контекст в длинных предложениях и абзацах. В статье также представлены многоголовочное внимание, позиционное кодирование и общая блочная структура Transformer. Это важно, потому что почти все основные языковые модели сегодня — включая GPT, Llama, Claude, Gemini и модели типа Qwen — построены на идее Transformer.

# 2. Языковые модели обучаются с помощью метода «нескольких попыток».

Это статья о GPT-3 . В ней объясняется один из самых значительных сдвигов в обработке естественного языка (NLP): вместо обучения отдельной модели для каждой задачи, большая языковая модель может выполнять множество задач, просто читая инструкции и примеры в подсказке. В статье представлена GPT-3, авторегрессивная языковая модель с 175 миллиардами параметров, обученная предсказывать следующий токен. Наиболее интересная часть — это не только размер модели, но и идея обучения в контексте . Модель может увидеть несколько примеров в подсказке, а затем продолжить шаблон, не обновляя свои веса. Эта статья важна, потому что она объясняет, почему подсказки стали такими мощными. Она помогает понять, почему языковые модели могут отвечать на вопросы, резюмировать текст, переводить, писать код и следовать примерам без переобучения для каждой задачи.

# 3. Законы масштабирования для нейронных языковых моделей

В статье « Законы масштабирования для нейронных языковых моделей» предпринята попытка ответить на практический вопрос: что происходит, когда мы увеличиваем размер языковых моделей, обучаем их на большем объеме данных и используем больше вычислительных ресурсов? В ней показано, что производительность модели улучшается предсказуемым образом по мере увеличения количества параметров, данных и вычислительных ресурсов. В статье рассматривается аспект масштабирования современных языковых моделей и объясняется, почему в этой области наблюдается тенденция к увеличению размеров моделей и увеличению объема обучающих циклов. Это важно, потому что статья объясняет системную логику, лежащую в основе обучения современных языковых моделей. Она помогает понять, почему компании так много инвестируют в более крупные модели, большие наборы данных и массивные вычислительные кластеры. Она также закладывает полезную основу для понимания новых дискуссий об оптимальном с точки зрения вычислительных ресурсов обучении, качестве данных и эффективном масштабировании моделей.

# 4. Обучение языковых моделей выполнению инструкций с учетом обратной связи от человека.

Это статья из InstructGPT . В ней объясняется, как базовая языковая модель становится более полезной в качестве помощника. Предварительно обученная модель хорошо предсказывает текст, но это не означает автоматически, что она будет следовать инструкциям, будет полезна или выдаст безопасные ответы. В статье используется процесс обучения, включающий контролируемую тонкую настройку и обучение с подкреплением на основе обратной связи от человека (RLHF) . Сначала люди пишут хорошие примеры ответов. Затем люди ранжируют выходные данные модели. Эти ранжирования используются для обучения модели вознаграждения, а языковая модель дополнительно оптимизируется для получения ответов, которые предпочитают люди. Эта статья важна, потому что она объясняет разницу между необработанной языковой моделью и помощником, следующим инструкциям. Если вы хотите понять, почему модели чата ведут себя иначе, чем базовые модели, вам обязательно следует прочитать её.

# 5. Генерация с расширенными возможностями поиска для задач обработки естественного языка, требующих больших объемов знаний.

В статье «Генерация с расширенным поиском для задач обработки естественного языка, требующих интенсивного использования знаний» объясняется принцип генерации с расширенным поиском (RAG). Основная идея заключается в том, что языковая модель не должна полагаться только на знания, хранящиеся в ее параметрах. Она может извлекать релевантные документы из внешнего источника и использовать их для генерации более качественных ответов. В статье сочетается предварительно обученная модель генерации с плотным поисковым механизмом и индексом документов. Это позволяет модели получать доступ к внешним знаниям при генерации ответов. Это особенно полезно для ответов на вопросы, фактических задач и ситуаций, когда информация меняется со временем. Эта статья важна, потому что многие реальные приложения обработки естественного языка используют ту или иную форму поиска. Чат-боты, корпоративные помощники, поисковые системы, агенты поддержки клиентов и инструменты для работы с документами часто используют RAG для привязки ответов к конкретным источникам.

# Завершение

В совокупности эти пять статей дают хорошее представление о том, как работают современные магистерские программы:

Архитектура трансформера → предварительное обучение → масштабирование → настройка инструкций → генерация с расширенным поиском

Не беспокойтесь, если вам не поймут каждое уравнение или техническую деталь при первом прочтении. Цель проста: понять основную идею каждой работы и почему она важна. Как только вы это поймете, большинство концепций LLM станут гораздо понятнее.

Канвал Мехрин — инженер по машинному обучению и технический писатель, глубоко увлеченная наукой о данных и взаимодействием ИИ с медициной. Она является соавтором электронной книги «Максимизация производительности с помощью ChatGPT». Как стипендиат программы Google Generation Scholar 2022 для Азиатско-Тихоокеанского региона, она выступает за разнообразие и академическое превосходство. Она также является стипендиатом программы Teradata Diversity in Tech Scholar, стипендиатом Mitacs Globalink Research Scholar и стипендиатом Harvard WeCode Scholar. Канвал — убежденная сторонница перемен, основавшая FEMCodes для расширения прав и возможностей женщин в областях STEM (наука, технология, инженерия и математика).

Источник: www.kdnuggets.com