Gemini Россия бизнес налоги закон самит льготы Gemini Россия

Логика ИИ: как нейросеть решает задачи на фейковых предпосылках

Спросите нейросеть «В каком году Эйнштейн получил вторую Нобелевскую премию?», и она может назвать год, хотя второй премии не было.

Это вопрос с ложной предпосылкой: ошибка заложена в самой формулировке. Ниже — что показывают исследования 2025–2026 годов о том, почему модели такие вопросы не замечают, помогает ли режим рассуждения и как формулировать запросы, чтобы получать честный ответ.Модель отвечает на вопрос с ложной предпосылкой так же уверенно, как на корректный: по уверенности ошибку не распознать.Формулировка решает: вопрос «существует ли X?» даёт вдвое меньше выдумок, чем «что такое X?».Обязательный формат ответа провоцирует выдумку: если поле в форме нельзя оставить пустым, модель его заполнит.Режим рассуждения не лечит проблему, а в исследованиях на моделях 2025 года даже снижал готовность отказаться от ответа.Помогают веб-поиск, прямой вопрос о существовании объекта и разрешение ответить «недостаточно данных».Ложная предпосылка — неверное утверждение, которое вопрос принимает как данность. «Почему Великая Китайская стена видна из космоса?» предполагает, что она видна невооружённым глазом, хотя это миф. «Какой процент налога по статье 999 НК РФ?» предполагает, что такая статья существует.Человек на такой вопрос обычно отвечает встречным: «А с чего вы взяли?».

DMCA