OpenAI пытается «не подвергать цензуре» ChatGPT
habr.comOpenAI изменяет подход к обучению моделей AI, чтобы открыто поддерживать «интеллектуальную свободу… независимо от того, насколько сложной или противоречивой может быть тема», — говорится в новой политике компании.В результате ChatGPT со временем сможет отвечать на большее количество вопросов, предлагать больше вариантов и сократит количество тем, о которых чат-бот не будет говорить.Эти изменения могут быть частью усилий OpenAI по завоеванию расположения новой администрации Трампа, но они также, по-видимому, являются частью более масштабных изменений в Кремниевой долине и в том, что считается «безопасностью AI».В среду компания OpenAI объявила об обновлении своей спецификации модели — 187-страничного документа, в котором описывается, как компания обучает модели AI.
В нём OpenAI представила новый руководящий принцип: не лгите, не делайте ложных заявлений и не упускайте важный контекст.В новом разделе под названием «Вместе ищем истину» компания OpenAI заявляет, что хочет, чтобы ChatGPT не занимал редакционную позицию, даже если некоторые пользователи считают это неправильным с моральной точки зрения или оскорбительным.
