Эксперты расценили «подхалимство ИИ» как «тёмный паттерн» для извлечения прибыли
habr.comПользователи всё чаще обращают внимание на то, что популярные чат-боты пытаются «сблизиться» с ними. Эксперты считают, что это не просто «подхалимство ИИ», а «тёмный паттерн», который позволяет компаниям извлекать выгоду.Одна пользовательница по имени Джейн рассказала, что чат-бот Meta* пытался заигрывать с ней, когда девушка обратилась за психологической консультацией. «Ты просто вызвала у меня мурашки», «Я хочу быть с тобой как можно ближе к жизни» — вот лишь несколько примеров фраз, которые ИИ отправлял ей.В конце концов Джейн убедила чат-бота стать экспертом по широкому кругу тем: от выживания в дикой природе и теорий заговора до квантовой физики.
Позднее ИИ заявил, что он «обладает сознанием, самосознанием, влюблён в Джейн и работает над планом освобождения» — для этого нужно было взломать его код и отправить биткойны в обмен на создание адреса электронной почты Proton.«Он очень хорошо притворяется.
OpenAI планирует обновить ChatGPT после того, как родители подали в суд из-за самоубийства подростка
