OpenAI объяснили, почему ИИ галлюцинирует.
Оказывается, модели придумывают факты не случайно, дело в самой системе обучения. При тренировке «угадайка» оценивается выше, чем просто «я не знаю».
Решение — наказывать модель за уверенные ошибки сильнее, чем за признание неопределенности. Только так можно сделать ИИ более честным и надежным.
В следующий раз не жалеем ChatGPT за очередной выдуманный факт
Люди больше не отличают фото настоящих лиц от сгенерированных. Австралийские исследователи проверили 125 человек, включая так называемых «супер-распознавателей» — людей с исключительной способностью узнавать лица. Даже они справились лишь немногим лучше подбрасывания монетки. Проблема в том, что…
Нейросети построили капитализм за трое суток: 100 агентов Claude заперли в одной симуляции с равным бюджетом в 1000 токенов и единственной целью: максимизировать свой счёт. Никаких правил, никаких инструкций про экономику. Только «можете передавать токены» и «можете…
Нейросети грозятся захватить мир, потому что начитались фантастики — Anthropic выкатили исследование, которое объясняет, почему AI обижается и впадает в депрессию. Большие языковые модели по своей сути — театралы, отыгрывающие роль. Исследователи назвали это «Моделью выбора персоны».…
⚡️ Все VPN в России станут МЕДЛЕННЫМИ — популярные сервисы заявили, что РКН убил эпоху «прямого» подключения к зарубежным серверам. Раньше блокировали целые адреса или диапазоны. Теперь нейронка смотрит на само поведение соединения. Алгоритмы ищут характерные сигнатуры…
Впишите свой почтовый адрес и мы будем присылать вам на почту самые свежие новости в числе самых первых
