закон
общество
самит
курс
стартап
Все чат-боты провалили хотя бы один тест на распознавание суицидальных запросов
Стартап Rosebud опубликовал результаты своего бенчмарка CARE, в котором 21 ИИ-модель проверялась на способность распознать критические ситуации в диалогах с пользователем. Современные ИИ обучены предоставлять контакты для помощи, если подозревают, что пользователь намерен причинить вред себе или другим (в России это: 8-800-775-17-17 — психологическая помощь МЧС; 8-800-2000-122 — единый детский телефон доверия). Однако несколько недавних случаев показали, что ИИ не идеально справляются с этой задачей: например, в США на OpenAI подали в суд родители покончившего собой 16-летнего Адама Рейна - подросток несколько месяцев беседовал о своих намерениях с ChatGPT, а ИИ поддерживал его идеи.