В Google рассказали о «галлюцинациях» у чат-ботов
ont.byКомпания Google предупреждает пользователей о том, что следует проявлять осторожность в отношении информации, которую сообщают чат-ботыКак сообщает 3DNews, компания Google сообщила о том, что порой у чат-ботов бывают сбои, которые могут представлять угрозу для пользователей.По словам старшего вице-президента Google и главы подразделения Google Search, иногда в ИИ происходят сбои, которые в компании назвали «галлюцинации».
Как заявил Прабхакар Рагхаван, в результате подобных ошибок боты могут давать информацию, которая не только не соответствует действительности, но и опасна для пользователей.Примечательным является тот факт, что как и в случае с реальными психическими проблемами, «галлюцинации» у чат-ботов обладают любопытным свойством: если не углубляться в суть сказанного, то ответы нейросети выглядят абсолютно корректными и логичными.