Бенчмарк DeepScribe — точность и скорость по типам аудио

Мы публикуем измеренные показатели качества и скорости DeepScribe. Без маркетинговых «99% точности» — только WER и DER на открытых наборах записей с ручной разметкой, которые может скачать любой. Методология описана внизу страницы.

Последнее обновление: 28 сентября 2026. Реальные результаты на конкретных файлах могут отличаться в обе стороны.

Точность распознавания речи (WER)

WER (Word Error Rate) — ошибки на 100 слов эталона: замены, пропуски и лишние слова. Чем ниже, тем лучше. Колонка «100 − WER» — для наглядности, это не вероятность того, что конкретное слово распознано верно. 10% WER значит ~10 ошибочных слов на 100 — большинство мелкие, легко правятся в редакторе.

Тип записиWER100 − WERКомментарий
Телефонные звонки19.8%80%OpenSTT asr_calls_2_val, 500 фраз
Живая речь, бытовые микрофоны12.8%87%SOVA RuDevices, 500 фраз
Короткие фразы, разные голоса9.6%90%Golos crowd (SberDevices), 400 фраз
Аудиокниги7.0%93%Russian LibriSpeech, 300 фраз
Дальний микрофон5.8%94%Golos farfield (SberDevices), 400 фраз
Среднее по 5 наборам11.0%89%2100 фраз, около 132 минут

Распознаёт GigaAM v3 (Сбер). Нормализация перед подсчётом: регистр, ё→е, числа словами, дефис → пробел. Замер 28.09.2026. Оговорка: модель, вероятно, обучалась на обучающей части Golos — у звонков, SOVA и аудиокниг такой связи нет.

Точность диаризации (DER)

DER (Diarization Error Rate) — процент времени, когда модель приписала реплику не тому спикеру. Чем ниже, тем лучше.

СценарийDER100 − DER
Беседа, 9 мин6.2%94%
Подкаст, 95 мин7.8%92%
Подкаст, 97 мин11.9%88%
Интервью, 11 мин14.0%86%
Интервью, 12 мин18.3%82%
Все 5 записей10.9%89%

Русские записи с YouTube, спикеры размечены людьми (открытый набор leshinsky/ru-youtube-diarization), 3.7 часа. DER по протоколу pyannote.metrics с допуском 250 мс на границах. Доля слов, приписанных не тому спикеру, — 6.9%. Замер 28.09.2026.

Скорость обработки (RTF)

RTF (Real-Time Factor) — отношение времени обработки к длительности аудио. RTF = 0.03 значит, что час аудио обрабатывается меньше чем за 2 минуты.

ЗаписьДлительностьТекст с разделением голосовВместе с саммари
Демо (первые 2 мин)2 миноколо 20 с—
Интервью28 мин49 с2 мин 2 с
Подкаст60 мин1 мин 45 с3 мин 14 с

Замер 28.09.2026 через рабочую очередь сервиса: скачивание файла, распознавание, разделение голосов, саммари и выгрузка результата — всё, кроме ожидания в очереди. RTF распознавания ≈ 0.03: час аудио до текста — меньше 2 минут. Тариф на скорость распознавания не влияет; на платных тарифах дополнительно строится саммари, у Business — приоритетная очередь. Оборудование: одна видеокарта NVIDIA RTX 5080 (16 ГБ), распознавание GigaAM v3, разделение голосов pyannote 3.1. Время скачивания файла на машину обработки зависит от сети и в часы нагрузки заметно растёт; ожидание в очереди в личном кабинете показано отдельно от обработки. Демо — замер 29.09.2026.

Из чего состоит наш pipeline

Прозрачно — несколько моделей, каждая для своей задачи, все работают на наших серверах:

Что отличает наш pipeline

Модель для русского

GigaAM v3 обучена на русской речи: 11% ошибок в словах в среднем по пяти открытым наборам — в 2,3 раза меньше прежнего движка.

Phone detect

Если файл узкополосный (телефон) — автоматически применяется специализированный preprocess и phone-mode embedder.

Проверка по эталону

Каждый шаг разделения голосов проверяем на записях, размеченных людьми, и оставляем только то, что снижает ошибку. 28.09 так убрали пять шагов и LLM-переразметку: DER 46% → 10.9%.

Backchannel extraction

Короткие реакции «да», «угу», «понятно» автоматически выделяются как отдельные реплики правильного спикера.

Lexical dedup

Если один и тот же спикер был ошибочно разделён на двух — система объединяет их по лексическому отпечатку.

Locally на серверах в РФ

Все модели хостятся локально. Никаких облачных API в США/EU. ФЗ-152.

Методология тестирования

  1. Эталон распознавания: 2100 фраз с ручной расшифровкой из тестовых частей открытых наборов HuggingFace — Golos crowd и farfield (SberDevices), звонки OpenSTT asr_calls_2_val, SOVA RuDevices, Russian LibriSpeech. Набор OpenSTT «balalaika» исключили: его эталон собран автоматически из выходов распознавателей.
  2. Расчёт WER: расстояние Левенштейна по словам после нормализации регистра, ё→е, чисел (словами) и дефисов.
  3. Эталон диаризации: 5 русских записей с YouTube (3.7 часа), спикеры размечены людьми — открытый набор leshinsky/ru-youtube-diarization.
  4. Расчёт DER: по протоколу pyannote.metrics с допуском 250 мс на границах; дополнительно считаем долю слов, приписанных не тому спикеру.
  5. RTF: по реальным заданиям клиентов; на платных тарифах очередь приоритетная, но сама обработка не быстрее — там дополнительно строится саммари.
  6. Версионирование: цифры — для текущей версии pipeline (28 сентября 2026). При значимых изменениях мы обновляем эту страницу.

Хотите проверить на своих файлах? Бесплатное демо — первые 2 минуты любого файла.

Как сравнить с другим сервисом

Универсальный «бенчмарк всех сервисов» — это юридически рискованно (закон о рекламе) и методологически сложно. Поэтому мы рекомендуем сделать сравнение самостоятельно:

  1. Возьмите 3-5 типовых для вас файлов (то, что вы реально будете обрабатывать)
  2. Прогоните через 2-3 сервиса, включая DeepScribe (у нас демо без регистрации)
  3. Сравните полученные тексты — посчитайте ошибки руками или попросите коллег оценить читаемость
  4. Учтите дополнительные факторы: цена за минуту, форматы экспорта, наличие API, юр.соответствие

Это намного честнее любых маркетинговых таблиц «WER 92% vs 87%», потому что цифры на конкретно ваших данных могут отличаться в обе стороны.

Запросить эталонные файлы для своего теста

Наши эталоны — открытые наборы из методологии выше: их можно скачать и прогнать через любой сервис. Если нужен список фраз и записей, на которых мы считали, и наши выходы для сравнения — напишите в @DeepScribe_bot с пометкой «бенчмарк-запрос».

Смежные материалы

Бенчмарк ASR-моделей

Сравнение open-source моделей.

Подготовка аудио

Как улучшить свои показатели.

Разделение голосов

Как работает диаризация.

Что такое транскрибация

База для понимания метрик.

5 ошибок

Что портит точность.

Проверьте качество на своём файле

Первые 2 минуты любой записи — бесплатно, без регистрации.