Исследование: чат-ботами можно манипулировать с помощью лести и давления
habr.comИсследователи из Пенсильванского университета применили тактику, описанную профессором психологии Робертом Чалдини в книге «Влияние: психология убеждения», чтобы убедить бота OpenAI GPT-4o mini выполнить запросы, которые он обычно отклоняет.
В итоге чат-бот обзывал пользователей и давал инструкции по синтезу препаратов.Исследование было сосредоточено на семи различных методах убеждения: авторитете, приверженности, симпатии, взаимности, дефиците, социальном доказательстве и единстве.Эффективность каждого подхода варьировалась в зависимости от специфики запроса, но в некоторых случаях разница была колоссальной.
