Чат-боты начали «зацикливаться» на прошлом: пользователи пожаловались на опасную память ИИ-моделей
incrypted.comПамять чат-ботов обернулась проблемой. Пользователи заявили о «зацикливании» ИИ-моделей на прошлых ситуациях из их жизни. Такое поведение, по их словам, влияет на корректность ответов чат-ботов.
Функция памяти в чат-ботах, которую технологические компании продвигают как способ сделать ассистентов «умнее» и персонализированными, все чаще становится источником проблем для пользователей.
