Google открыла k8s-aibom — контроллер Kubernetes для инвентаризации ИИ-нагрузок
habr.comGoogle Cloud опубликовала исходный код k8s-aibom — контроллера Kubernetes, который обнаруживает запущенные в кластере ИИ-компоненты и автоматически формирует ведомости компонентов машинного обучения в формате CycloneDX 1.6 ML-BOM.
Инструмент собирает данные из фактического состояния кластера, поэтому способен находить в том числе нагрузки, которые не были зарегистрированы во внутренних системах компании.k8s-aibom отслеживает стандартные ресурсы Kubernetes: Deployment, StatefulSet, DaemonSet, Job, CronJob, а также KServe InferenceService.По образам контейнеров, переменным окружения, аргументам командной строки, аннотациям и конфигурации томов контроллер пытается определить:среды выполнения моделей, включая vLLM, NVIDIA Triton, Hugging Face TGI и Ollama;агентские фреймворки — LangChain, AutoGen, CrewAI и другие;векторные базы данных и компоненты RAG, например Milvus, Qdrant и pgvector;задачи обучения и дообучения на PyTorch, JAX, KubeRay и Hugging Face Accelerate;инструменты оценки моделей, включая Ragas и lm-evaluation-harness.Результат сохраняется как ресурс AIBOM: полный документ ML-BOM помещается в поле status.bomDocument.
В Google Photos начали внедрять функцию Video Remix для редактирования видео по текстовым подсказкам
