Архив рубрики ~Коротко из Telegram~

OpenAI объяснили, почему ИИ галлюцинирует. Оказывается, модели придумывают факты не…

16.09.2025

OpenAI объяснили, почему ИИ галлюцинирует.

Оказывается, модели придумывают факты не случайно, дело в самой системе обучения. При тренировке «угадайка» оценивается выше, чем просто «я не знаю».

Решение — наказывать модель за уверенные ошибки сильнее, чем за признание неопределенности. Только так можно сделать ИИ более честным и надежным.

В следующий раз не жалеем ChatGPT за очередной выдуманный факт

file 530

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Компания Revolut подтвердила утечку данных клиентов посредством поддельных запросов от правительства. Архив рубрики ~Полезное~ Возвращаем деньги за ненужные подписки: разраб сделал промт, который превращает… Архив рубрики ~Лента новостей~ «Яндекс» выложил в открытый доступ языковую модель, которая лежит в основе быстрых ИИ-ответов в «Поиске» Архив рубрики ~Лента новостей~ Рынок IT-вакансий сломался и ничего не понятно? А ведь за изучение таких процессов в 2010 году дали Нобелевскую премию Архив рубрики ~Лента новостей~ LinkedIn выиграла судебные иски по делу «BrowserGate», касающимся сканирования расширений Chrome пользователями. Новости робототехники Когнитивный конвейер и социальная слепота: как школа и культура программируют мышление Новости робототехники Компания Tesla заявляет, что наконец-то представит Roadster второго поколения 1 октября. Архив рубрики ~Обо всем~ Власти США обвинили шесть китайских разработчиков ИИ в «злонамеренном» копировании технологий американских компаний Архив рубрики ~Обо всем~ Fermi Explorer: отправляем зонд к Альфе Центавра всего за 15 млн долларов Архив рубрики ~Лента новостей~ Европа отправится в одиночное путешествие на Венеру после того, как НАСА отозвало радарный прибор. Архив рубрики ~Лента новостей~ Компания Automattic подтвердила возвращение Малленвега на пост генерального директора после попытки его смещения советом директоров. Архив рубрики ~Лента новостей~ Anthropic заявила, что китайские DeepSeek и Moonshot AI перенаправляли некоторые запросы пользователей к моделям Claude и выдавали их ответы за свои Архив рубрики ~Лента новостей~ Теперь Android может безопасно переносить ваши учетные данные между менеджерами паролей. Архив рубрики ~Лента новостей~ Это самая большая двухмерная карта Вселенной. Вот как ею пользоваться. Архив рубрики ~Лента новостей~ Компания Revolut подтвердила утечку данных клиентов посредством поддельных запросов от правительства. Архив рубрики ~Полезное~ Возвращаем деньги за ненужные подписки: разраб сделал промт, который превращает… Архив рубрики ~Лента новостей~ «Яндекс» выложил в открытый доступ языковую модель, которая лежит в основе быстрых ИИ-ответов в «Поиске» Архив рубрики ~Лента новостей~ Рынок IT-вакансий сломался и ничего не понятно? А ведь за изучение таких процессов в 2010 году дали Нобелевскую премию Архив рубрики ~Лента новостей~ LinkedIn выиграла судебные иски по делу «BrowserGate», касающимся сканирования расширений Chrome пользователями. Новости робототехники Когнитивный конвейер и социальная слепота: как школа и культура программируют мышление Новости робототехники Компания Tesla заявляет, что наконец-то представит Roadster второго поколения 1 октября. Архив рубрики ~Обо всем~ Власти США обвинили шесть китайских разработчиков ИИ в «злонамеренном» копировании технологий американских компаний Архив рубрики ~Обо всем~ Fermi Explorer: отправляем зонд к Альфе Центавра всего за 15 млн долларов Архив рубрики ~Лента новостей~ Европа отправится в одиночное путешествие на Венеру после того, как НАСА отозвало радарный прибор. Архив рубрики ~Лента новостей~ Компания Automattic подтвердила возвращение Малленвега на пост генерального директора после попытки его смещения советом директоров. Архив рубрики ~Лента новостей~ Anthropic заявила, что китайские DeepSeek и Moonshot AI перенаправляли некоторые запросы пользователей к моделям Claude и выдавали их ответы за свои Архив рубрики ~Лента новостей~ Теперь Android может безопасно переносить ваши учетные данные между менеджерами паролей. Архив рубрики ~Лента новостей~ Это самая большая двухмерная карта Вселенной. Вот как ею пользоваться.

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 48