⚡️ SDPO улучшает обучение с подкреплением для LLM, используя текстовую…

⚡️ SDPO улучшает обучение с подкреплением для LLM, используя текстовую обратную связь вместо простого числового вознаграждения. Модель анализирует свои ошибки и сама генерирует сигналы для обучения, превращая себя в «самоучителя». Это повышает эффективность выборки и точность, особенно в задачах кода, математики и научного рассуждения.

👆 Даже в средах с только числовым вознаграждением SDPO извлекает скрытую информацию из успешных попыток и сокращает количество нужных прогонов до 3 раз.

❓ Может ли подход само-дистилляции стать стандартом для ускоренного обучения LLM в сложных задачах с редкой обратной связью?