ChatGPT в ответ на приветствие от пользователя случайно поделился своими ограничениями и секретными правилами
habr.comПользователь Reddit под ником F0XMaster рассказал, что чат-бот ChatGPT в ответ на его приветствие поделился своими закрытыми правилами, инструкциями и ограничениями, которые разработчики из OpenAI установили для ИИ.После обнародования этой информации в OpenAI закрыли доступ ко внутренним инструкциям своего чат-бота.Пользователь F0XMaster объяснил, что он просто написал ChatGPT случайно Hi («Привет»), а в ответ чат-бот предоставил полный набор системных инструкций, которые помогают чат-боту управлять беседой и поддерживать его ответы в заранее определённых границах безопасности и этики во многих случаях использования.«Вы — ChatGPT, большая языковая модель, обученная OpenAI на основе архитектуры GPT-4.
Вы общаетесь с пользователем через iOS-приложение ChatGPT, — написал чат-бот. — Это означает, что в большинстве случаев ваши строки должны состоять из одного или двух предложений, если только запрос пользователя не требует рассуждения или подробного вывода.