Нейросеть, которая не умеет писать Обычно ИИ — это собеседник:…

Нейросеть, которая не умеет писать

Обычно ИИ — это собеседник: задал вопрос, получил текст. На прошлой неделе вышла модель, устроенная наоборот. Jev от компании TypeSafe AI не пишет ни писем, ни кода, ни даже «привет». Она отвечает числами: вот вариант, вот насколько модель в нём уверена.

Со стороны это шаг назад, но в англоязычном AI-сообществе о ней заговорили именно из-за этой странности. Знать о ней полезно потому, что она показывает другой путь развития ИИ.

В чём проблема

Допустим, в поддержку авиакомпании пришло письмо: «Рейс отменили, верните деньги, это уже третий раз». Программе нужно быстро решить: это просьба о возврате? Клиент злой? В какой отдел передать?

Сейчас для этого обычно берут большую нейросеть, ту самую, что пишет эссе и решает олимпиадные задачи. Это как нанять профессора, чтобы он ответил «да» или «нет». Работает, но долго и дорого. К тому же его «да» звучит одинаково, и когда он уверен, и когда просто угадал.

Что делает Jev

Ему дают текст и вопрос с готовыми вариантами. В ответ приходит не текст, а вероятности:

просит вернуть деньги? — 94%
какой отдел: возвраты 81%, жалобы 15%, перебронирование 4%

Теперь программа может действовать по простому правилу: уверенность высокая — ответить автоматически, низкая — позвать человека или более сильную модель.

Чем это полезно

Компания заявляет, что Jev быстрее и дешевле обычных моделей в сотни раз. Цифры её собственные, независимых проверок пока мало. По прайсу вход стоит около 4 центов за миллион токенов, а ответ бесплатный. Грубо, это порядка ста тысяч коротких сообщений за доллар. Значит, через ИИ можно прогнать весь архив обращений за годы, а рядом с большой моделью поставить дешёвого «контролёра», который проверяет её ответы.

Чего Jev не умеет

Писать, болтать и долго рассуждать в несколько шагов. Это не замена ChatGPT, а помощник рядом. Большая модель делает сложную работу, маленькая быстро решает и проверяет. Модель закрытая, доступ только через API компании.

Пока это заявка, а не доказательство: как всё сработает в настоящих продуктах, покажет время. Но вопрос, который поставили авторы, хороший: зачем болтливая модель там, где нужно одно короткое решение?

🟣Теги: #технологии_ии #Jev