Нейросети научились сокращать текст без потери смысла, используя эффект смысловой плотности

Нейросети научились сокращать текст без потери смысла, используя эффект смысловой плотности

Исследователи из Института AIRI, НИУ ВШЭ и Университета Иннополис разработали метод, который позволяет языковым моделям значительно сокращать русскоязычные тексты, сохраняя их основное содержание. Для этого ученые использовали феномен «смысловой компрессии», когда одно короткое, эмоционально насыщенное выражение может заменить целую фразу.

В живой речи часто используется обсценная лексика именно как инструмент такой сверхплотной упаковки смысла. Ученые решили проверить, можно ли целенаправленно обучить ИИ этому приему для эффективного сжатия информации и экономии вычислительных ресурсов. Под сжатием понимается не суммаризация, а сокращение длины высказывания с минимальной потерей семантики.

Исследование было представлено на международной конференции AAAI.

Ранее исследователями из группы «Прикладное NLP» и «Вычислительная семантика» на конференции NAACL был представлен синтетический многоязычный набор данных для детоксификации текста.

Источник: vk.com

Источник: ai-news.ru