Lesskeys
Мова
ІнструкціяMac і WindowsMacWindows

Коли Whisper зупиняється завчасно й каже, що закінчив

Коротка відповідь

Модель Whisper може зупинитися посеред запису й все одно повідомити про успіх: у нашому тесті так сталося в 10 із 143 запусків. Порівняння того, скільки транскрипту повернулося, із тривалістю аудіо виявляє це без еталонного транскрипту.

macOS 13+ на Apple Silicon · Без підпискиWindows 10 і 11 · Без підписки

Востаннє перевірено:

Ілюстрація реального результату. Вікно транскрибації показує найгірший запуск у нашому тесті — норвезьку: смуга аудіо заповнена, смуга транскрипту зупиняється на 22% (113 із 521 слова), а статус усе одно показує ЗАВЕРШЕНО. Нижче 143 квадрати, по одному на запуск: 10 червоних — запуски, що зупинилися завчасно.
Найгірший запуск у матриці, намальований за даними. Кожен квадрат — один запуск, у порядку файлу результатів; 10 із 143 червоні.

Що це

Що таке тихе обривання

Текст, який модель видала, був правильним. Просто вона зупинилася, а конвеєр сказав, що все готово.

Модель мовлення може повернути хибні слова, а може зупинитися посеред запису й віддати правильний транскрипт першої частини так, ніби він повний. У нашому найгіршому запуску, норвезькою, вона повернула 113 із 521 еталонного слова після 30 хвилин обчислень і зупинилася після 9 сегментів. Наш власний конвеєр записав цей запуск як ЗАВЕРШЕНО: без помилки, без попередження, без позначки про частковий результат.

  • 10 із 143запусків зупинилися завчасно
  • 22%аудіо в найгіршому запуску
  • 9 із 10на двох файлах large-v3

Які запуски

Які мови зупинилися завчасно

9 із 10 припадають на два файли large-v3.

Покриття — це довжина транскрипту, поділена на довжину еталона: 1,00 означає повний транскрипт. Кожна смуга — один обірваний запуск; пунктирна лінія — поріг 0,80.

Large V3: 5 із 28 запусків

  • Норвезька0,22
  • Малайська0,32
  • В’єтнамська0,34
  • Корейська0,40
  • Нідерландська0,74

Large V3 Q5: 4 із 28 запусків

  • Чеська0,22
  • Португальська (Бразилія)0,35
  • В’єтнамська0,37
  • Малайська0,75

Large V3 Turbo Q5: 1 із 29 запусків

  • Гінді†0,72

Гінді: застереження щодо оцінювання

† Це запуск типової моделі: 886 одиниць проти еталона в 1 237 — той самий завищений підрахунок, який названо у виправленні на сторінці «Точність Whisper у 29 мовах» (гінді: 1 237 одиниць проти 683 справжніх слів, через скрипт оцінювання, що розбивав слова на комбінувальних знаках), тож абсолютне значення 0,72 ненадійне. Але два споріднені запуски turbo показали 1 288 і 1 242 одиниці проти того самого еталона (покриття 1,04 і 1,00), тож запуск типової моделі був на 29–31 відсоток коротший за них. Найімовірніше, це справжнє обривання, як це записано й у власній примітці до результатів завдання. Він виконувався в частині матриці з 12 ГБ (див. обмеження нижче).

Завжди коротше, ніколи не довше

Кожна крайня клітинка в цій матриці — коротша, ніколи не довша. Жоден із 143 запусків не перевищив еталон більш ніж наполовину. Це протилежний знак порівняно зі збоєм повторення, коли модель застряє й хвилинами видає ту саму фразу, даючи покриття в п’ять і більше разів вище за еталон. Обидва збої катастрофічні й обидва непомітні за вибіркової перевірки, але їх можна відрізнити за знаком того самого числа, тож одна перевірка ловить обидва.

Як це виявити

Виявляйте без еталона

Порівняйте, скільки транскрипту повернулося, із тривалістю аудіо.

Для частки помилок у словах потрібен еталонний транскрипт, якого на практиці немає. Покриттю він не потрібен. У цій матриці дві групи розділяються чітко:

Обірвані й справні запуски в цій матриці
ЩоЗапускиСереднє покриттяСередня частка помилок
Обірвані100,4465,90%
Справні1331,0112,10%

Поріг 0,80 не підганяли під дані: найвище покриття серед обірваних запусків — 0,75, а найнижче серед справних — 0,82, тож будь-який поріг у цьому порожньому проміжку дає ту саму відповідь. На практиці: порівняйте позначку часу останнього повернутого сегмента з тривалістю файлу, на комп’ютері користувача, не маючи нічого для порівняння.

Частка помилок

Обривання завищує частку помилок

У Large V3 середнє в 28 мовах — 24,64%; без 5 обірваних запусків — 15,25%.

Приблизно 9,4 пункту її частки помилок — це не те, що модель щось неправильно почула. Це частина запису, яку модель так і не обробила.

Навіть без обривань Large V3 не наздоганяє меншу модель turbo

Навіть якщо виключити обривання, Large V3 не наздоганяє квантування turbo на 834 МБ, яке в середньому дає 9,16% у всіх 29 мовах і жодного разу не обривалося. У 28 мовах, спільних для всіх трьох запусків turbo (крім гінді), середні значення такі: Q8 — 8,59%, типова — 8,71%, turbo на 1,6 ГБ — 8,80%, у межах 0,2 пункту одне від одного, тож більша частина загального розриву — це один рядок гінді. Розмір не передбачив ні надійності, ні точності.

На Mac

Що це означає для моделей, які пропонує Lesskeys

Обидва файли large-v3 є у виборі моделей версії App Store, що зараз у продажу (3.1.4), і дають 9 із 10 обірваних запусків.

У цій версії перевірки покриття немає. Описана вище перевірка — це пропозиція для неї, а не наявна функція.

Стан на 15 жовтня 2026 для версії App Store, що зараз у продажу (3.1.4)

Кажемо прямо, бо саме тому цю сторінку варто публікувати, а не ховати в архів:

  • Обидва артефакти large-v3 пропонуються у виборі моделей Lesskeys і дають 9 із 10 обірваних запусків. Користувач, який міркує «більше завантаження — кращий результат», обирає найменш надійний варіант у списку.
  • Квантування на 834 МБ, що показало найнижчу середню частку помилок (розрив із іншими запусками turbo — здебільшого один рядок гінді) і нуль обривань, відсутнє у виборі тієї версії. У цьому тесті воно було доступне лише тому, що каталог моделей сканується під час запуску.
  • Типова модель (547 МБ) обірвалася один раз у 29 мовах — на гінді (найімовірніше, справжнє обривання; див. примітку під списком покриття). Цей запуск і запуск Large V3 Q5 для чеської обидва виконувалися в частині матриці з 12 ГБ, з невеликим запасом пам’яті (див. обмеження).
  • У цій версії немає перевірки покриття. Описана вище перевірка — це пропозиція для неї, а не наявна функція. Коли вона з’явиться, цей розділ буде переписано, а не тихо видалено.

У Windows

Що це означає у Windows

Тест проводили в застосунку для Mac. Застосунок для Windows у ньому не брав участі.

Коли ввімкнено позначки мовців, Lesskeys у Windows має запобіжник для транскрипту, що повертається порожнім із файлу з мовленням: він декодує файл ще раз без позначок часу. Перевірки на транскрипт, який обривається посередині, — а це випадок цієї сторінки, — там немає. На довгому файлі порівняйте останні рядки транскрипту з аудіо й переконайтеся, що кінець транскрипту збігається з кінцем запису.

Дані

Метод, таблиця й обмеження

Як проводили запуски й про що вони не можуть сказати — згорнуто.

Як вимірювали обривання

5 артефактів Whisper родини large-v3 у 29 мовах, 143 із 145 клітинок. Аудіо — FLEURS із вирівняною гучністю та без цифр у тексті (начитане мовлення з опублікованими еталонними транскриптами), приблизно від 460 до 2 520 одиниць на мову.

Кожен запуск проходив через готовий застосунок на віртуальній машині з macOS Sequoia, а не через whisper-cli. Це важливо: виявлення голосової активності, фільтр галюцинацій, нормалізація гучності та обмеження мови були на шляху, точно як у користувача. Мову було жорстко задано для кожного запуску й дотримано в усіх 143 клітинках; фактично завантажена модель збіглася зі запитаною в усіх 143. Двох клітинок не вистачає: це гінді на обох артефактах large-v3, які не завершилися взагалі.

П’ять моделей: розмір, середня помилка, обірвані запуски

П’ять артефактів Whisper родини large-v3 у 29 мовах (рядки без обірваних запусків виділено)

МодельРозмірМовиСередня помилкаМедіанаОбірвані запуски
Модель Large V3 Turbo Q8 ● немає у виборі834 МБ299,16%6,80%немає
Large V3 Turbo1,6 ГБ299,52%7,23%немає
Модель Large V3 Turbo Q5 ● типова модель у застосунку547 МБ299,99%7,81%1 із 29
Large V33 ГБ2824,64%15,80%5 із 28
Large V3 Q51,0 ГБ2826,66%18,66%4 із 28
Обмеження цього тесту
  • Начитане мовлення, а не наради. FLEURS — це чиста записана проза. Розмовне аудіо та аудіо з перебиванням помітно складніші, і ці показники не слід сприймати як те, що ви отримаєте на реальному дзвінку.
  • Один прогін на клітинку. 143 клітинки, по одному запуску. Обривання відтворювалося на двох артефактах large-v3 і в двох окремих розслідуваннях, але ця матриця не встановлює частоти; вона встановлює, що це трапляється.
  • Один комп’ютер, два обсяги пам’яті. Клітинки виконувалися на одній віртуальній машині з Apple Silicon, пам’ять якої становила 12 ГБ для перших 33 клітинок і 24 ГБ для решти; усі 29 клітинок типової моделі та перші чотири клітинки Large V3 Q5 (арабська, чеська, данська, німецька) виконувалися в частині з 12 ГБ. На неї припадають два обірвані запуски: гінді на типовій моделі (241 МБ доступної пам’яті в найнижчій точці) і чеська на Large V3 Q5 (60 МБ). Кожен інший обірваний запуск мав понад 6 000 МБ доступної пам’яті. Брак пам’яті міг вплинути на ці два, а ця матриця не може відокремити це від самої моделі. Декодування лишили зі стандартними для застосунку налаштуваннями шляху файлу, а не з налаштуваннями інструмента командного рядка.
  • Абсолютні показники дещо завищені через вибір нормалізації розділових знаків і регістру. Надійна частина — порівняння моделей, а не абсолютні відсотки.

Цього разу транскрипти збережено. У попередньому прогоні їх перезаписував конфігураційний крок наступного запуску, і обривання доводилося виводити з кількості слів — саме тому його так довго не помічали. «Гірша частка помилок» і «зупинився завчасно» у таблиці результатів виглядають однаково.

Запитання

Запитання про зупинку Whisper завчасно

Що таке тихе обривання в розпізнаванні мовлення?

Модель повертає транскрипт, що охоплює лише частину аудіо, а конвеєр навколо неї повідомляє про успіх. Наявний текст зазвичай правильний, тому нічого не виглядає помилковим, доки хтось не порівняє транскрипт зі записом. У цій матриці це торкнулося 10 із 143 запусків, 9 із них — на двох артефактах large-v3.

Як виявити обірваний транскрипт без еталона?

Порівняйте те, що повернулося, із тим, що подано на вхід: кінцеву позначку часу останнього сегмента з тривалістю аудіофайлу або довжину транскрипту з очікуваною довжиною. Жодне з цього не потребує еталонного транскрипту, і саме тому перевірку можна застосовувати на практиці. У цих даних обірвані запуски мали в середньому покриття 0,44 проти 1,01 у справних.

Чи більша модель Whisper дає кращі результати?

У цій матриці — ні. Два найбільші артефакти показали найвищу середню частку помилок і дали 9 із 10 обірваних запусків, тоді як квантування моделі turbo на 834 МБ показало найнижче середнє (9,16%, у межах 0,2 пункту від інших запусків turbo, якщо не враховувати гінді) і жодного разу не обривалося. Розмір завантаження не передбачив ні точності, ні надійності.

Це вада Whisper чи застосунку?

Не визначено, і сторінка не стверджує, що знає. Виміряно те, що така ситуація трапляється й що конвеєр навколо неї цього не помітив. Запропонована перевірка покриття — це пом’якшення на рівні застосунку, а цей рівень ми контролюємо; вона не діагностує першопричину.

Ще

Читайте далі