Deveillance представила Kalypta — приложение, которое мешает нейросетям расшифровывать созвоны
Стартап Deveillance представил Kalypta — приложение, которое мешает нейросетям расшифровывать речь во время созвонов. Программа работает локально и в реальном времени изменяет исходящий аудиопоток так, чтобы собеседник продолжал понимать пользователя, но системы распознавания речи получали искажённую расшифровку.Kalypta построена на базе небольшой локальной модели, которая добавляет в аудиопоток специально подобранные возмущения.
Нейросеть обучена запутывать системы на базе OpenAI Whisper и Nvidia Canary. Во внутренних тестах Kalypta заставляла модели ошибаться примерно в двух из трёх словах.
habr.com