Архив рубрики ~Коротко из Telegram~

OpenAI объяснили, почему ИИ галлюцинирует. Оказывается, модели придумывают факты не…

16.09.2025

OpenAI объяснили, почему ИИ галлюцинирует.

Оказывается, модели придумывают факты не случайно, дело в самой системе обучения. При тренировке «угадайка» оценивается выше, чем просто «я не знаю».

Решение — наказывать модель за уверенные ошибки сильнее, чем за признание неопределенности. Только так можно сделать ИИ более честным и надежным.

В следующий раз не жалеем ChatGPT за очередной выдуманный факт

file 530

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ США пытаются отбить open source у Китая: вышла открытая модель Poolside Laguna S 2.1 Архив рубрики ~Лента новостей~ «Группа Астра» расширила программу долговременной поддержки Astra Linux Архив рубрики ~Лента новостей~ Компания Anthropic запускает инструмент пространственного анализа от Claude Science, Института Wellcome Sanger и консорциума Google DeepMind AI. Архив рубрики ~Лента новостей~ Смерть монолитной LLM: почему выигрывает не тот, кто покупает флагман, а тот, кто строит сплит-роутинг Архив рубрики ~Лента новостей~ Как я научил Claude заказывать продукты в Яндекс Лавке (и что для этого пришлось отреверсить) Архив рубрики ~Полезное~ Что такое LLM и как «думает» нейросеть — просто о сложном Архив рубрики ~Полезное~ Qwen выпустила новый ИИ-фотошоп — Qwen-Image 3.0 Новую модель заточили… Архив рубрики ~Лента новостей~ Xbox тестирует потоковую передачу с поддержкой рекламы с участием участников программы Xbox Insider. Архив рубрики ~Полезное~ Веб-дизайнеры, для вас находка — отличный сайт, где можно черпать… Архив рубрики ~Полезное~ ИИ-репетитор, который собирает курс почти по любой теме Нашли бесплатный… Архив рубрики ~Лента новостей~ Состояние дел с программами-вымогателями в 2026 году: выплаты падают, но уровень шифрования растет. Архив рубрики ~Лента новостей~ Что останется от облаков, когда инфраструктурой займутся агенты Архив рубрики ~Лента новостей~ «МТС Линк» научил ИИ-ассистента автоматически составлять список задач после встреч Архив рубрики ~Лента новостей~ «Узкое место» в пространственной биологии: почему модели ИИ терпят неудачу при работе со сложными тканями и что на самом деле помогает это исправить. Архив рубрики ~Лента новостей~ США пытаются отбить open source у Китая: вышла открытая модель Poolside Laguna S 2.1 Архив рубрики ~Лента новостей~ «Группа Астра» расширила программу долговременной поддержки Astra Linux Архив рубрики ~Лента новостей~ Компания Anthropic запускает инструмент пространственного анализа от Claude Science, Института Wellcome Sanger и консорциума Google DeepMind AI. Архив рубрики ~Лента новостей~ Смерть монолитной LLM: почему выигрывает не тот, кто покупает флагман, а тот, кто строит сплит-роутинг Архив рубрики ~Лента новостей~ Как я научил Claude заказывать продукты в Яндекс Лавке (и что для этого пришлось отреверсить) Архив рубрики ~Полезное~ Что такое LLM и как «думает» нейросеть — просто о сложном Архив рубрики ~Полезное~ Qwen выпустила новый ИИ-фотошоп — Qwen-Image 3.0 Новую модель заточили… Архив рубрики ~Лента новостей~ Xbox тестирует потоковую передачу с поддержкой рекламы с участием участников программы Xbox Insider. Архив рубрики ~Полезное~ Веб-дизайнеры, для вас находка — отличный сайт, где можно черпать… Архив рубрики ~Полезное~ ИИ-репетитор, который собирает курс почти по любой теме Нашли бесплатный… Архив рубрики ~Лента новостей~ Состояние дел с программами-вымогателями в 2026 году: выплаты падают, но уровень шифрования растет. Архив рубрики ~Лента новостей~ Что останется от облаков, когда инфраструктурой займутся агенты Архив рубрики ~Лента новостей~ «МТС Линк» научил ИИ-ассистента автоматически составлять список задач после встреч Архив рубрики ~Лента новостей~ «Узкое место» в пространственной биологии: почему модели ИИ терпят неудачу при работе со сложными тканями и что на самом деле помогает это исправить.

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 43