🎧 Алиса, а можно покороче? Специально для наушников Дропс Алису…

🎧 Алиса, а можно покороче? Специально для наушников Дропс Алису научили выдавать более ёмкие и лаконичные ответы. Вот как это работает.

Если вы общаетесь с Алисой в чате, вы, конечно, замечали, что в ответах Алиса часто использует большие тексты, выделения шрифтом, списки и т. д. В наушниках Яндекс Дропс, где пользователь всё воспринимает на слух, Алиса ближе к голосовому ИИ-ассистенту, и ответы формируются иначе — ведь они воспринимаются на слух и должны быстро раскрывать суть.

В чате и в наушниках используется одна и та же модель, и задачей разработчиков было сделать её лаконичнее. Коротких ответов можно добиться, либо указав это в промпте, либо обучив модель на примерах подходящих диалогов. В Дропсах требование лаконичности ответа добавляется на уровне промпта — это позволило отказаться от дообучения и использовать самую мощную языковую модель Яндекса. Например, когда вы спрашиваете «как варить картошку», модель на самом деле получает запрос вроде «как варить картошку, отвечай максимально коротко и содержательно, сначала самое главное».

При этом требования к ответу составлены так, чтобы модель не просто сокращала ответ, а оптимизировала его под восприятие на слух. Сначала она выдаёт самое главное, потом детали, а пользователь в любой момент может перебить или переспросить. То есть человек сам управляет глубиной ответа.