ИИ‑агенты начали массово рассылать спам и публиковать контент
habr.comАвтор 404Media опубликовал колонку, в которой он анализирует нынешнее влияние ИИ‑ботов на интернет. По его словам, уже сейчас они организуют массовую рассылку писем, спама и публикуют контент.Автор отмечает, что новая волна апокалиптических прогнозов насчёт ИИ была вызвана сочетанием двух событий: взломом платформы HuggingFace и одного немецкого сайта «роем вышедших из‑под контроля агентов» от OpenAI, а также заявлениями ряда сотрудников компании Anthropic о том, что ИИ погубит человечество в течение 10 лет.«Как бы вы ни относились к этим мрачным прогнозам — верите ли вы, что технологическая сингулярность уже наступила, или считаете ИИ лишь „стохастическим попугаем“ и машиной для плагиата, создающей иллюзию интеллекта, — неоспоримо одно: новейшие передовые модели способны выполнять гораздо больше задач.
Отчасти это объясняется тем, что исчезли ограничения, удерживавшие ИИ в рамках диалога в чате», — пишет он.По мнению журналиста, не имеет значения, «рассуждает» ли ИИ, постоянно ли он ошибается и вызваны ли сбои исключительно действиями безответственных программистов и специалистов по кибербезопасности.
