Кризис отменяется: Google изобрел квантовый алгоритм сокращения объема памяти для ИИ в 6 раз
itc.uaЕсть шанс, что дефицит памяти откладывается: Google Research представили TurboQuant — алгоритм сжатия, который сокращает объем памяти, необходимой для больших языковых моделей (LLM), одновременно повышая скорость и сохраняя точность и качество результатов.
TurboQuant направлен на уменьшение размера кэша «ключ-значение», который Google сравнивает с «цифровой шпаргалкой», хранящей важную информацию, чтобы не вычислять ее повторно.
