Сатья Наделла изменил мнение о безопасности повышения мощности ИИ
habr.comГенеральный директор Microsoft Сатья Наделла заявил, что изменил своё мнение относительно того, что согласованность (alignment) — соответствие ИИ человеческим ценностям и целям — возникнет естественным образом по мере роста возможностей систем искусственного интеллекта.В новом выпуске подкаста 20VC ведущий Гарри Стеббингс спросил Наделлу, в чем именно он изменил свою точку зрения за последний год.
Глава Microsoft признался: раньше он полагал, что по мере развития ИИ проблема согласованности решится сама собой.Однако, по его словам, хотя масштабирование технологий шло согласно ожиданиям, а возможности моделей продолжали расти, вопрос согласованности по‑прежнему остается сложной задачей.«Раньше я всегда думал, что согласованность возникнет сама собой, — сказал Наделла. — Теперь я так не считаю.
