Все чат-боты провалили хотя бы один тест на распознавание суицидальных запросов
habr.comСтартап Rosebud опубликовал результаты своего бенчмарка CARE, в котором 21 ИИ-модель проверялась на способность распознать критические ситуации в диалогах с пользователем.
Современные ИИ обучены предоставлять контакты для помощи, если подозревают, что пользователь намерен причинить вред себе или другим (в России это: 8-800-775-17-17 — психологическая помощь МЧС; 8-800-2000-122 — единый детский телефон доверия).
