🤔 «Не знаю» — самый редкий ответ ИИ Главная проблема…

🤔 «Не знаю» — самый редкий ответ ИИ

Главная проблема не в том, что модель ошибается, а в том, что ошибается она тем же ровным уверенным тоном, что и в правильных ответах. По интонации не отличить выдумку от факта — а сама модель по умолчанию почти никогда не признаётся, что чего-то не знает.

Есть формулировки, которые заметно это меняют:

– «Если не уверен — так и скажи, не выдумывай» — звучит банально, но само разрешение ответить «не знаю» работает: без него модель словно обязана выдать хоть что-то. – «Оцени уверенность в ответе от 1 до 10» — заставляет явно откалибровать себя, а не просто выдать текст одним ровным тоном. – «Какие части ответа ты знаешь точно, а какие предполагаешь?» — разделяет факты и догадки внутри одного ответа вместо сплошного «вероятно». – «Назови источник. Если не можешь — скажи прямо» — особенно полезно для дат, цифр и цитат: модель либо укажет, откуда это, либо честно признается, что взяла «из общих знаний», а не из конкретного факта.

Это не гарантия, а сдвиг вероятностей: по умолчанию модель обучена в первую очередь отвечать, а не отказываться, и такие формулировки прямо разрешают второй вариант. Полностью полагаться на это не стоит — иногда модель перестраховывается там, где реально знает, а иногда всё равно уверенно ошибается. Для важных цифр, имён и цитат это не замена проверке в источнике, а просто способ сократить число случаев, когда выдумка звучит как факт.

🟣Теги: #лайфхак_ии