Новая методика оптимизации LLM сокращает затраты памяти до 75%
habr.comИсследователи токийского стартапа Sakana AI разработали новую технологию, которая позволяет языковым моделям более эффективно использовать память.
Это позволит предприятиям сократить расходы на создание приложений на основе больших языковых моделей (LLM) и других моделей на основе Transformer.Метод называется « универсальной памятью трансформеров».
Apple участвует в разработке «межсоединения для производительности кластера ИИ следующего поколения»
