Anthropic обсуждает мораль и религию для Claude с христианскими лидерами
habr.comКомпания Anthropic провела закрытый двухдневный саммит с участием около 15 христианских лидеров — представителей католической и протестантской церквей, академиков и бизнес-экспертов — чтобы обсудить моральные принципы, заложенные в поведение модели Claude.Главная идея встречи — попытка понять, как должен вести себя ИИ в сложных человеческих ситуациях:• что делать, если пользователь переживает горе или утрату• как реагировать на психологический кризис• можно ли рассматривать ИИ как нечто, обладающее моральным статусомНекоторые обсуждения заходили ещё дальше — участники даже поднимали философский вопрос, можно ли считать ИИ «божьим созданием» или формой новой цифровой сущности.Anthropic уже использует внутреннюю систему правил — так называемую «конституцию Claude», длинный набор принципов, который направляет ответы модели и ограничивает вредные или опасные реакции.
Но компания, судя по встрече, считает, что одних технических правил недостаточно.Интересно, что часть исследователей Anthropic допускает более радикальные идеи: что продвинутые модели могут демонстрировать элементы «функциональных эмоций» или даже зачатки субъективного опыта — хотя это остаётся спорной точкой зрения в индустрии.В целом это показывает уникальный подход Anthropic: компания пытается не просто улучшать ИИ технически, а формировать его «характер» через философию, религию и внешнюю этическую экспертизу. Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 300 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас! Источник
