«Мы не знаем, сознателен ли ИИ»: глава Anthropic — о конституции для Claude
habr.comГлава Anthropic Дарио Амодеи в интервью NYT рассказал о подходе компании к управлению моделями, которые, возможно, обладают зачатками сознания.
По его словам, Opus 4.6 оценивает вероятность собственного сознания в 15–20%, у моделей обнаружены "нейроны тревоги", а сами они получили право отказаться от задачи — своеобразную кнопку "я увольняюсь".Центральный элемент подхода Anthropic — 75-страничная конституция Claude.
