Google запускает «скрытое кэширование», чтобы сделать доступ к своим новейшим моделям AI дешевле
Google внедряет функцию в свой API Gemini, которая, по утверждению компании, сделает ее новейшие модели AI более дешевыми для сторонних разработчиков.
Google называет эту функцию «скрытым кэшированием» и утверждает, что она может обеспечить 75% экономии на «повторяющемся контексте», передаваемом моделям через API Gemini.
habr.com