OpenAI притормозила разработку Astra после тревожных результатов тестирования
ilenta.comAstra пока остается разрабатываемой моделью и не была выпущена для широкого использования. Однако OpenAI решила публично рассказать о результатах проверки, поскольку система продемонстрировала способность самостоятельно находить и использовать уязвимости в программном обеспечении.
Компания также усиливает требования к средам, в которых тестируются ее наиболее мощные ИИ-агенты.Главное отличие Astra от обычного чат-бота заключается в степени самостоятельности.
