Глава команды безопасности Anthropic покидает компанию
habr.comИсследователь по безопасности ИИ Мринанк Шарма покидает Anthropic, намекая, что компания отходит от первоначальных ценностей.
Он возглавлял команду Safeguards Research, которая отвечает за безопасность моделей искусственного интеллекта. По его словам, рост коммерческих задач и необходимость привлекать миллиарды долларов приводят к компромиссам, включая сотрудничество с Министерством обороны США, Palantir и принятие инвестиций от авторитарных режимов, а также публичную поддержку Дональда Трампа.«Похоже, мы приближаемся к порогу, за которым наша мудрость должна расти в той же мере, что и наша способность влиять на мир, иначе мы столкнемся с последствиями», - пишет Шарма.В прощальном обращении Шарма написал, что в Anthropic трудно следовать заявленным ценностям на практике.
