Сооснователь Anthropic: ИИ может стереть человечество. Но сначала — поможет получить Нобелевку
habr.com20 мая сооснователь Anthropic Джек Кларк прочитал лекцию в Институте этики ИИ Оксфордского университета. Кларк возглавляет в Anthropic подразделение Anthropic Institute, которое изучает социальные эффекты от ИИ, а его рассылку про развитие ИИ читают больше 120 тысяч человек — в основном профессионалы отрасли.
Главный тезис лекции — у искусственного интеллекта остается "не нулевой шанс убить всех на планете", и важно "четко заявить, что этот риск никуда не делся".В той же лекции Кларк дал пять конкретных прогнозов со сроками:12 месяцев — ИИ поможет совершить открытие, которое будет удостоено Нобелевской премии (не сам, а в соавторстве с людьми).18 месяцев — появятся первые компании, управляемые исключительно ИИ, с выручкой в миллионы долларов.2 года — человекоподобные роботы начнут помогать сантехникам и электрикам в реальной работе на объектах.К концу 2028 — модели смогут самостоятельно обучать своих преемников, то есть улучшать ИИ без участия человека.На всем горизонте — тот самый "не нулевой шанс" вымирания, который Кларк отдельно отметил как несокращающийся.Аргументирует Кларк через аналогию с пандемиями. "Если мы будем стоять в стороне и позволим ИИ размножаться, нас в конце концов заставят реагировать постфактум", — сказал он, имея в виду провал готовности к COVID.
