Anthropic вынуждена извиниться после того, как Claude предоставил недостоверную информацию в суде
В ходе продолжающегося судебного процесса по делу об авторских правах компания Anthropic признала, что её чат-бот Claude предоставил недостоверную информацию, которая впоследствии была использована в качестве доказательства в суде.Согласно заявлению, поданному в окружной суд Калифорнии, Claude придумал «неточный заголовок и неверных авторов».
Ошибка ускользнула от ручной проверки и осталась незамеченной — наряду с несколькими другими ошибками в цитатах, допущенными Claude, как следует из судебных документов.Фальшивое цитирование появилось в показаниях Оливии Чен, сотрудницы Anthropic, которая выступала в качестве свидетеля-эксперта по этому делу.
habr.com