Lesskeys
Idioma
GuiaMac e WindowsMacWindows

Quando o Whisper para antes da hora e diz que terminou

Resposta curta

Um modelo do Whisper pode parar no meio de uma gravação e mesmo assim informar sucesso: 10 de 143 execuções no nosso teste fizeram isso. Comparar quanta transcrição voltou com a duração do áudio flagra o problema, sem precisar de transcrição de referência.

macOS 13+ em Apple Silicon · Sem assinaturaWindows 10 e 11 · Sem assinatura

Última revisão em

Ilustração do resultado real. Uma janela de transcrição mostra a pior execução do nosso teste, em norueguês: a barra do áudio está cheia, a barra da transcrição para em 22% (113 de 521 palavras) e o status ainda diz CONCLUÍDO. Abaixo, 143 quadrados, um por execução: 10 são vermelhos, as execuções que pararam cedo.
A pior execução da matriz, desenhada a partir dos dados. Cada quadrado é uma execução, na ordem do arquivo de resultados; 10 de 143 são vermelhos.

O que é

O que é truncamento silencioso

O texto que ele produziu estava correto. Ele só parou, e o pipeline disse que tinha terminado.

Um modelo de fala pode devolver as palavras erradas, ou pode parar no meio e entregar uma transcrição correta da primeira parte como se estivesse completa. Na nossa pior execução, em norueguês, ele devolveu 113 de 521 palavras de referência depois de 30 minutos de processamento e parou após 9 segmentos. Nosso próprio pipeline registrou essa execução como CONCLUÍDA: sem erro, sem aviso, sem sinalização de resultado parcial.

  • 10 de 143execuções pararam cedo
  • 22%do áudio na pior execução
  • 9 de 10nos dois arquivos large-v3

Quais execuções

Quais idiomas pararam cedo

9 das 10 estão nos dois arquivos large-v3.

Cobertura é o tamanho da transcrição dividido pelo tamanho da referência: 1,00 é uma transcrição completa. Cada barra é uma execução truncada; a linha tracejada é o limite de 0,80.

Large V3: 5 de 28 execuções

  • Norueguês0,22
  • Malaio0,32
  • Vietnamita0,34
  • Coreano0,40
  • Holandês0,74

Large V3 Q5: 4 de 28 execuções

  • Tcheco0,22
  • Português (Brasil)0,35
  • Vietnamita0,37
  • Malaio0,75

Large V3 Turbo Q5: 1 de 29 execuções

  • Hindi†0,72

Hindi: uma ressalva sobre a pontuação

† Esta é a execução do modelo padrão: 886 unidades contra uma referência de 1.237, a mesma contagem inflada que a correção em Precisão do Whisper em 29 idiomas aponta (hindi: 1.237 unidades contra 683 palavras reais, por causa de um avaliador que separava palavras nas marcas combinatórias), então o 0,72 absoluto não é confiável. Mas os dois modelos turbo irmãos tiveram 1.288 e 1.242 unidades contra a mesma referência (cobertura de 1,04 e 1,00), então a execução do padrão foi de 29 a 31% mais curta que as deles. A leitura mais provável é um truncamento real, que é também como a própria nota de resultados da tarefa o registra. Ela rodou na parte da matriz com 12 GB (veja os limites abaixo).

Sempre curta, nunca longa

Toda célula extrema desta matriz é curta, nunca longa. Nenhuma das 143 execuções passou da referência em mais da metade. É o sinal oposto ao da falha de loop de repetição, em que o modelo trava e emite a mesma frase por minutos, com cobertura de cinco vezes a referência ou mais. As duas são catastróficas e invisíveis a uma checagem por amostragem, mas se distinguem pelo sinal do mesmo número, e é isso que permite que uma única verificação pegue as duas.

Flagre o problema

Flagre o problema sem uma referência

Compare quanta transcrição voltou com a duração do áudio.

A taxa de erro de palavras exige uma transcrição de referência, que em produção você nunca tem. A cobertura não. Nesta matriz, as duas populações se separam com nitidez:

Execuções truncadas e saudáveis nesta matriz
ItemExecuçõesCobertura médiaTaxa de erro média
Truncadas100,4465,90%
Saudáveis1331,0112,10%

O limite de 0,80 não foi ajustado aos dados: a maior cobertura entre as execuções truncadas é 0,75 e a menor entre as saudáveis é 0,82, então qualquer corte dentro dessa faixa vazia dá a mesma resposta. Em produção: compare o horário do último segmento devolvido com a duração do arquivo, na máquina da pessoa, sem nenhuma referência para comparar.

A taxa de erro

O truncamento infla a taxa de erro

O Large V3 tem média de 24,64% em 28 idiomas; sem as suas 5 execuções truncadas, 15,25%.

Cerca de 9,4 pontos da sua taxa de erro não são o modelo ouvindo errado. São o modelo que simplesmente não está lá.

Mesmo sem truncamento, o Large V3 não alcança o modelo turbo menor

Mesmo excluindo o truncamento, o Large V3 não alcança a quantização turbo de 834 MB, que tem média de 9,16% nos 29 idiomas e nunca truncou uma vez sequer. Nos 28 idiomas que as três execuções turbo têm em comum (deixando o hindi de lado), as médias são Q8 8,59%, o padrão 8,71% e o turbo de 1,6 GB 8,80%, a menos de 0,2 ponto umas das outras, então a maior parte da diferença entre as médias vem de uma linha do hindi. O tamanho não previu a confiabilidade aqui, e também não previu a precisão.

No Mac

O que isto significa para os modelos que o Lesskeys oferece

Os dois arquivos large-v3 estão no seletor de modelos da versão da App Store à venda (3.1.4) e respondem por 9 das 10 execuções truncadas.

Essa versão não tem verificação de cobertura. A checagem descrita acima é uma proposta para ela, não um recurso lançado.

Situação em 15 de outubro de 2026, para a versão da App Store à venda (3.1.4)

Dito com franqueza, porque é por isso que vale a pena publicar esta página em vez de arquivá-la:

  • Os dois artefatos large-v3 são oferecidos no seletor de modelos do Lesskeys e respondem por 9 das 10 execuções truncadas. Quem raciocina “download maior, resultado melhor” está escolhendo a opção menos confiável da lista.
  • A quantização de 834 MB, que teve o menor erro médio (uma diferença para as outras execuções turbo que é em grande parte uma linha do hindi) e zero truncamentos, não está no seletor dessa versão. Ela só pôde ser usada neste teste porque a pasta de modelos é verificada na inicialização.
  • O modelo padrão (547 MB) truncou uma vez em 29 idiomas, no hindi (muito provavelmente um truncamento real; veja a nota abaixo da lista de cobertura). Essa execução e a do Large V3 Q5 em tcheco rodaram na parte da matriz com 12 GB, com pouca memória sobrando (veja os limites).
  • Essa versão não tem verificação de cobertura. A checagem descrita acima é uma proposta para ela, não um recurso lançado. Quando for lançada, esta seção será reescrita em vez de apagada em silêncio.

No Windows

O que isto significa no Windows

O teste foi feito no app para Mac. O app para Windows não fez parte dele.

Com os rótulos de falante ligados, o Lesskeys no Windows tem uma rede de segurança para uma transcrição que volta vazia de um arquivo com fala: ele decodifica o arquivo de novo sem horários. Não há verificação para uma transcrição que para no meio, que é o caso desta página. Em um arquivo longo, leia as últimas linhas da transcrição junto com o áudio e confira se o fim da transcrição bate com o fim da gravação.

Os dados

O método, a tabela e os limites

Como as execuções foram feitas e o que elas não conseguem dizer, recolhido.

Como o truncamento foi medido

5 artefatos do Whisper da família large-v3, em 29 idiomas, 143 de 145 células. O áudio é FLEURS com volume normalizado e sem dígitos no texto (fala lida com transcrições de referência publicadas), com cerca de 460 a 2.520 unidades por idioma.

Toda execução passou pelo aplicativo na versão publicada, em uma máquina virtual com macOS Sequoia, e não pelo whisper-cli. Isso importa: a detecção de atividade de voz, o filtro de alucinações, a normalização de volume e a trava de idioma estavam todos no caminho, exatamente como uma pessoa os teria. O idioma foi forçado em cada execução e respeitado nas 143 células; o modelo realmente carregado correspondeu ao modelo pedido nas 143. As duas células ausentes são o hindi nos dois artefatos large-v3, que não chegaram a terminar.

Os cinco modelos: tamanho, erro médio, execuções truncadas

Cinco artefatos do Whisper da família large-v3 em 29 idiomas (as linhas sem nenhuma execução truncada estão destacadas)

ModeloTamanhoIdiomasErro médioMedianaExecuções truncadas
Large V3 Turbo Q8 ● não está no seletor834 MB299,16%6,80%nenhuma
Large V3 Turbo1,6 GB299,52%7,23%nenhuma
Large V3 Turbo Q5 ● padrão do app547 MB299,99%7,81%1 de 29
Large V33 GB2824,64%15,80%5 de 28
Large V3 Q51,0 GB2826,66%18,66%4 de 28
Os limites deste teste
  • Fala lida, não reuniões. O FLEURS é prosa gravada e limpa. Áudio de conversa e com vozes sobrepostas é bem mais difícil, e estas taxas não devem ser lidas como o que você teria em uma chamada real.
  • Uma passada por célula. 143 células, uma execução cada. O truncamento foi reproduzível nos dois artefatos large-v3 e em duas investigações separadas, mas esta matriz não estabelece uma taxa; ela estabelece que isso acontece.
  • Uma máquina, dois tamanhos de memória. As células rodaram em uma máquina virtual Apple Silicon cuja memória era de 12 GB nas primeiras 33 células e de 24 GB nas demais; as 29 células do modelo padrão e as quatro primeiras do Large V3 Q5 (árabe, tcheco, dinamarquês, alemão) rodaram na parte de 12 GB. Duas execuções truncadas caem nela: o hindi no padrão (241 MB de memória disponível no ponto mais baixo) e o tcheco no Large V3 Q5 (60 MB). Todas as outras execuções truncadas tinham mais de 6.000 MB disponíveis. A pouca memória pode ter contribuído nessas duas, e esta matriz não consegue separar isso do modelo. A decodificação ficou nos padrões do caminho de arquivos do aplicativo, e não nos da ferramenta de linha de comando.
  • As taxas absolutas trazem alguma inflação das escolhas de normalização de pontuação e de maiúsculas. As comparações entre modelos são a parte que sustenta a conclusão, não os percentuais absolutos.

Desta vez as transcrições foram guardadas. Em uma varredura anterior, elas foram sobrescritas pela etapa de configuração da execução seguinte, e o truncamento teve de ser deduzido pela contagem de palavras, que é justamente o motivo de ele ter passado despercebido por tanto tempo. “Taxa de erro pior” e “parou cedo” parecem idênticos em uma tabela de resultados.

Perguntas

Perguntas sobre o Whisper parando cedo

O que é truncamento silencioso em reconhecimento de fala?

Um modelo devolve uma transcrição que cobre só parte do áudio e o pipeline em volta informa sucesso. O texto que existe costuma estar correto, então nada parece errado até alguém comparar a transcrição com a gravação. Nesta matriz, isso afetou 10 de 143 execuções, 9 delas nos dois artefatos large-v3.

Como detectar uma transcrição truncada sem uma referência?

Compare o que voltou com o que entrou: o horário de fim do último segmento contra a duração do arquivo de áudio, ou o tamanho da transcrição contra o tamanho esperado. Nenhuma das duas exige uma transcrição de referência, e é isso que torna a checagem utilizável em produção. Nestes dados, as execuções truncadas tiveram cobertura média de 0,44, contra 1,01 das saudáveis.

Um modelo maior do Whisper dá resultados melhores?

Não nesta matriz. Os dois maiores artefatos tiveram as maiores taxas de erro médias e responderam por 9 das 10 execuções truncadas, enquanto uma quantização de 834 MB do modelo turbo teve a menor média (9,16%, a menos de 0,2 ponto das outras execuções turbo, deixando o hindi de lado) e nunca truncou. O tamanho do download não previu nem a precisão nem a confiabilidade aqui.

Isso é um bug do Whisper ou do app?

Indeterminado, e a página não afirma saber. O que foi medido é que a condição ocorre e que o pipeline em volta não percebeu. A verificação de cobertura proposta é uma mitigação na camada do aplicativo, a camada que controlamos; ela não diagnostica a causa de fundo.

Mais

Leia a seguir