Не опять, а снова: в МФТИ разработали «прозрачный» детектор ИИ-текстов
habr.comБуквально вслед за американцами, команда исследователей из Сколтеха, МФТИ, Института искусственного интеллекта AIRI и других научных центров разработала метод, позволяющий не просто отличать тексты, написанные человеком, от сгенерированных нейросетью, но и понимать, по каким именно признакам классификатор принимает решение о том, является ли текст генерацией или нет.Авторы метода отмечают, что существующие системы детекции сгенерированного текста часто работают как «черные ящики» и не могут объяснить, на каких конкретно свойствах текста основано их решение.
В результате, если детектор ошибается, то бывает очень сложно понять, почему именно это случилось и как избежать такой ошибки в будущем.Чтобы не изобретать велосипед, исследователи решили заглянуть «под капот» нейросети и превратить ее внутренние состояния в набор четких и интерпретируемых характеристик текста.
Google LangExtract: новая библиотека для извлечения структурированных данных из текста с помощью LLM
