Red Hat объявила о приобретении Chatterbox Labs, специализирующейся на тестировании моделей ИИ и механизмах защиты ИИ
Red Hat объявила о приобретении компании Chatterbox Labs, специализирующейся на тестировании моделей искусственного интеллекта и механизмах защиты генеративного ИИ.
Платформа AIMI от Chatterbox Labs предоставляет количественные метрики рисков ИИ и другие данные.Red Hat пишет, что по мере внедрения ИИ в производство возможность мониторинга моделей на предмет предвзятости, токсичности и уязвимостей становится критически важной.
habr.com