Сервер для OpenAI Whisper транскрибации

Whisper от OpenAI стал стандартом для open-source распознавания речи:

• 99 языков: От русского, английского и китайского до редких языков с минимальным датасетом обучения.
• Транскрибация: Преобразование речи в текст с пунктуацией, capitalization, временными метками.
• Перевод: Прямой перевод аудио с любого языка на английский без промежуточного шага транскрибации.
• Robust к шуму: Работает с записями плохого качества, фоновым шумом, акцентами.
• Большой контекст: Учитывает 30-секундный контекст для consistency терминологии и имён.
• Speaker diarization: Через WhisperX - определение, кто говорит, в многопользовательских записях.

Whisper Large v3 - самая точная версия с WER (word error rate) ниже большинства коммерческих сервисов вроде Google Speech-to-Text или Azure.

Конфиденциальность аудио критична во многих сценариях:

• Журналистика: Защита источников при транскрибации анонимных интервью - запись не должна покидать редакцию.
• Юристы: Адвокатская тайна требует, чтобы записи не передавались третьим лицам, включая AI-сервисы.
• Медицина: HIPAA, GDPR и российский закон 152-ФЗ запрещают передачу медицинских данных без согласия.
• Корпоративные встречи: Переговоры и стратегические сессии содержат коммерческую тайну.
• Психотерапия: Сессии с клиентами содержат глубоко личную информацию.
• Стоимость: OpenAI Whisper API стоит $0.006/мин - 1000 часов записи это $360. Свой сервер окупается за месяц.

Anubiz Host предоставляет инфраструктуру под no-logs политикой - мы не имеем доступа к содержимому ваших аудиозаписей или результатам транскрибации.

Скорость транскрибации на разных GPU и оптимизациях Whisper Large v3:

• Vanilla Whisper: Реализация OpenAI на PyTorch. На RTX 3090 - 1x realtime, то есть 1 час аудио за 1 час.
• faster-whisper: Реализация на CTranslate2. В 4-10 раз быстрее, на RTX 3090 - 10x realtime.
• WhisperX: faster-whisper плюс forced alignment через wav2vec и diarization через pyannote. Точные временные метки на уровне слов.
• Distil-Whisper: Дистиллированная версия от Hugging Face. В 6 раз быстрее large-v3 с минимальной потерей качества.
• Insanely Fast Whisper: Реализация на Hugging Face Transformers с flash attention 2. 50 минут аудио за 90 секунд на A100.
• Batch processing: Параллельная обработка нескольких файлов через ASGI-сервер и очередь задач.

Anubiz Host разворачивает faster-whisper или WhisperX по запросу с REST API. Возможна интеграция с n8n, Telegram-ботами и собственными приложениями.