ИИ приближается к научной фантастике: создатель Claude потребовал «нажать на тормоза»
udf.nameИскусственный интеллект приближается к порогу, который еще недавно считался научной фантастикой. Новые системы ИИ могли бы внести свой вклад, наряду с людьми, в открытие, достойное Нобелевской премии, в следующие 12 месяцев, по мнению соучредителя Anthropic Джека Кларка.Параллельно с этим эксперты индустрии заговорили о возможности появления компаний, управляемых полностью искусственным интеллектом, а также о стремительном распространении гуманоидных роботов в повседневной деятельности, пишет EVZ.В лекции, прочитанной в Оксфордском университете, Кларк предупредил, что все еще существуют правдоподобные сценарии, при которых технология может иметь экстремальные последствия, заявив, что существуют ситуации, в которых она имела бы "вероятность выше нуля убить все население планеты", и подчеркнув, что "важно четко заявить, что этот риск не исчез".В том же контексте он описал нынешний темп развития ИИ как трудноконтролируемый и предположил, что общество не готово к его долгосрочным последствиям.Глава Anthropic заявил, что развитие ИИ следовало бы замедлитьОн также утверждает, что было бы предпочтительнее замедлить технологическое развитие, чтобы дать больше времени для адаптации, говоря, что было бы лучше, если бы люди могли замедлить прогресс, "чтобы предоставить нам больше времени как виду" для понимания последствий.Тем не менее он считает данный сценарий маловероятным, поскольку развитие технологии поддерживается параллельно многочисленными игроками и государствами, находящимися в непрерывной конкуренции, в которой коммерческие и геополитические соперничества склонны отодвигать на второй план риски, связанные с созданными технологиями.Кларк ушел из компании OpenAI из-за разногласийДжек Кларк является одной из центральных.
