Глава по ИИ в Microsoft: ИИ‑модели не должны иметь сознания
habr.comГлава подразделения ИИ в Microsoft Мустафа Сулейман опубликовал в социальной сети X пост, в котором заявил, что современные модели ИИ не обладают сознанием — и разработчикам следует сделать всё, чтобы эта ситуация сохранялась.«Если это вообще возможно, то, исходя из того, что мне известно, создание ИИ, обладающего сознанием, было бы безрассудством; мы не должны этого делать, — пишет Сулейман. — Если в процессе обучения у системы начнет проявляться сознание, я призвал бы всех остановить разработку ИИ до тех пор, пока мы не найдём способ исключить подобные свойства».По словам инженера, если появятся хоть какие‑то доказательства того, что модели ИИ обрели сознание, об этом необходимо немедленно сообщить общественности.«Мы, разработчики ИИ, не имеем никакого права привносить в мир новый вид сознательных существ — даже если кто‑то и хочет сделать это, ставя во главу угла „благополучие“ самого ИИ, — утверждает он. — Остальные 8 миллиардов сознательных людей на планете не давали согласия на этот эксперимент, и мы обязаны в первую очередь защищать их моральные права, безопасность и благополучие».В своём посте Сулейман отметил: если модель ИИ ведёт себя так, будто страдает — или искренне верит, что способна страдать, — она, скорее всего, начнёт ставить собственные нужды выше поставленных перед ней задач.
В результате такие системы могут причинить вред людям, конкурируя за ресурсы ради достижения своих собственных целей.«Мы должны создавать ИИ так, чтобы они не обладали сознанием и не имели права претендовать на какие‑либо права.
