29 dilde Whisper doğruluğu
Son gözden geçirme:
Önce bunu okuyun
Yeniden ölçülen satırlar
Düzeltme, 28 Ağustos 2026 tarihli
Bu tablonun arkasındaki puanlayıcı metni [^\w\s]\w
Bu, referansı şişirir; parçalar hizalanamadığı için hata sayısını da onunla birlikte şişirir. Dolayısıyla Hintçe, Arapça, İbranice ve birleşik işaretli diğer yazıların satırları, hata oranını dile göre değişen bir miktarda olduğundan yüksek gösterir; aşağıdaki “en kötü dil” iddiası da bu satırlar için güvenli değildir. 83 dili kapsayan düzeltilmiş bir tarama şu anda çalışıyor ve bu sayfa ondan yeniden üretilecek.
Aşağıdaki geri çekmeyle aynı nedenle, sessizce silinmek yerine burada kayda geçirilmiştir: Latin olmayan yazıyı sessizce bozan bir normalleştirici, çok dilli bir kıyaslamanın okuyucusuna bildirilmesi gereken tam da bu tür bir hatadır ve yayımlanan hiçbir sayıda görünmez.
Durum, 15 Ekim 2026
Yeni ölçüm, hem dosya transkripsiyonu hem de dikte için 83 dili ve altı modeli kapsıyor. Henüz bu sayfada değil, çünkü bitmedi: 996 test çalıştırmasının 89’u başarısız oldu; hepsi en büyük modellerde ve 17 dilde, ayrıca çalıştırmaların hepsi aynı bellek miktarını ya da test aracının aynı sürümünü kullanmadı. O bitene kadar aşağıdaki tablo hâlâ yukarıda anlatılan 29 dillik tablodur; dolayısıyla † işaretli satırlar (düzeltmede adı geçen Hintçe, Arapça ve İbranice) hâlâ şişirilmiş hata oranlarını taşır, birleşik işaretli diğer yazılar da öyle olabilir. Latin, Kiril ve CJK satırlarındaki karşılaştırmalar etkilenmez.
Yanıt
547 MB ’lık model yeterli kalıyor
- 29 dilin 23’ündehiçbir büyük model açıkça daha iyi değil
- 6dilde daha büyük model boyutunun karşılığını veriyor
- 29 dilin 9’unda
1,6 GB ’lık turbo model daha kötü sonuç veriyor
İstisnalar
Daha büyük modelin boyutunun karşılığını verdiği yerler
Tayca, Japonca, Fince, Fransızca, Felemenkçe veya Korece ile çalışıyorsanız daha büyük indirme buna değer.
| Konu | Daha iyi model | Kazanç | |
|---|---|---|---|
| Tayca | %20,8 | v3: %12,6 | |
| Japonca | %18,5 | v3-q5: %14,2 | |
| Fince | %10,8 | v3-q5: %7,7 | |
| Fransızca | %10,0 | v3: %7,5 | |
| Felemenkçe | %10,8 | v3-q5: %8,3 | |
| Korece | %11,3 | v3-q5: %9,4 |
v3-q5v3 onu hiçbir zaman 1,2 yüzde puanından fazla geçmez.
Her zaman büyük değil
Büyük modeller her zaman daha doğru değildir
Hangi diller ve ne kadar
Hintçe† (%42,1; varsayılan %34,4), Tayca (%24,6; %20,8), Çince (Basitleştirilmiş) (%16,8; %13,7), Malayca (%9,8; %7,1), Vietnamca (%10,3; %9,8), Endonezce (%7,8; %7,4), Türkçe (%15,5; %15,2), Yunanca (%11,3; %11,2), Fransızca (%10,1; %10,0). Bu kadar küçük farkların hepsi bu örneklem boyutunda tek tek anlamlı değildir; önemli olan, tek başına boyutun öngörmeyeceği yöndür. Bir üst modele uzanmak güvenli bir varsayılan değildir.
Uçlar
En kolay ve en zor
En iyi sonuç: İspanyolca, %2,8.
Hiçbir modelin iyileştiremediği en yüksek hata oranı İbranice†’dir; denenen hiçbir yapılandırmada %48,3’ün altına inmez. Düzeltme, bu okumanın İbranice gibi birleşik işaretli yazılar için güvenli olmadığını söylüyor; düzeltilmiş tarama bu sayfaya gelene kadar onu doğrulanmamış sayın.
Geri çekme
Yerinde bırakılan bir geri çekme
Geri çekme
Bu taramanın önceki bir sürümü, Ukraynaca için large-v3’ün varsayılandan anlamlı biçimde daha iyi olduğunu bildirmişti. Bu yanlıştı. Ölçüm, whisper-cli’nin varsayılanı olan ama uygulamanın kullanmadığı beam 5 ile yapılmıştı. Gerçek ayar olan greedy ile yeniden çalıştırıldığında varsayılan ve v3 tam bir beraberliğe düştü. Aradaki fark modelden değil, kod çözücüden geliyordu.
Veriler
Tam tablo, yöntem ve sınırlar
Tam tablo, yöntem ve sınırlar kapalı durumda: hangisini isterseniz açın.
Dile ve modele göre hata oranı (29 dil, 6 model)
Dile ve modele göre hata oranı (29 dil, 6 model)
| Dil | Ölçüt | tiny | small | turbo-q5 | turbo | v3-q5 | v3 |
|---|---|---|---|---|---|---|---|
| Arapça† ar-SA | WER | %67,0 | %36,9 | %22,9 | %22,4 | %22,3 | %22,2 ● |
| Çince (Basitleştirilmiş) zh-Hans | CER | %55,0 | %24,8 | %13,7 | %16,8 | %13,1 | %12,6 ● |
| Çekçe cs | WER | %84,0 | %40,4 | %13,2 | %12,8 | %13,1 | %11,9 ● |
| Danca da | WER | %87,2 | %35,0 | %13,4 | %13,0 | %12,6 ● | %13,3 |
| Felemenkçe nl-NL | WER | %74,8 | %28,8 | %10,8 | %9,8 | %8,3 ● | %8,4 |
| İngilizce en-US | WER | %31,9 | %10,7 | %9,1 | %8,9 | %7,0 ● | %8,9 |
| Fince fi | WER | %64,4 | %31,8 | %10,8 | %10,1 | %7,7 ● | %7,7 ● |
| Fransızca fr-FR | WER | %50,1 | %26,1 | %10,0 | %10,1 | %7,7 | %7,5 ● |
| Almanca de-DE | WER | %35,0 | %11,9 | %5,2 | %4,7 ● | %5,2 | %5,2 |
| Yunanca el | WER | %74,7 | %32,9 | %11,2 ● | %11,3 | %11,8 | %12,3 |
| İbranice† he | WER | %81,9 | %63,2 | %51,0 | %48,4 | %48,3 ● | %48,3 ● |
| Hintçe† hi | WER | %100,0 | %68,3 | %34,4 | %42,1 | %33,4 | %32,4 ● |
| Macarca hu | WER | %84,8 | %48,7 | %17,9 | %17,9 | %17,0 | %16,3 ● |
| Endonezce id | WER | %59,2 | %21,8 | %7,4 ● | %7,8 | %8,1 | %9,4 |
| İtalyanca it | WER | %31,8 | %8,2 | %4,0 | %2,9 ● | %4,6 | %4,5 |
| Japonca ja | CER | %54,3 | %25,4 | %18,5 | %15,6 | %14,2 ● | %17,0 |
| Korece ko | CER | %33,9 | %24,6 | %11,3 | %11,3 | %9,4 ● | %9,5 |
| Malayca ms | WER | %62,5 | %25,1 | %7,1 | %9,8 | %6,0 | %5,9 ● |
| Norveççe no | WER | %64,0 | %24,2 | %10,0 | %9,8 ● | %10,0 | %9,8 ● |
| Lehçe pl | WER | %57,0 | %17,7 | %6,7 | %6,4 ● | %7,4 | %7,6 |
| Portekizce (BR) pt-BR | WER | %25,4 | %7,9 | %5,2 | %5,1 | %5,0 | %4,9 ● |
| Romence ro | WER | %79,1 | %33,4 | %10,2 | %9,9 | %9,5 | %9,2 ● |
| Rusça ru | WER | %38,7 | %12,9 | %6,4 | %6,3 ● | %6,8 | %7,3 |
| İspanyolca es-ES | WER | %19,3 | %7,0 | %3,5 | %3,5 | %3,0 | %2,8 ● |
| İsveççe sv | WER | %57,2 | %21,4 | %8,3 | %8,1 | %7,1 ● | %7,3 |
| Tayca th | CER | %62,4 | %27,5 | %20,8 | %24,6 | %13,2 | %12,6 ● |
| Türkçe tr | WER | %62,1 | %30,5 | %15,2 | %15,5 | %13,1 ● | %13,5 |
| Ukraynaca uk | WER | %68,3 | %39,2 | %23,1 | %21,0 ● | %23,3 | %23,1 |
| Vietnamca vi | WER | %64,1 | %26,6 | %9,8 ● | %10,3 | %10,2 | %10,2 |
Nasıl ölçüldü
Bu testin sınırları
- Dil başına tek parça (yaklaşık 1.000 sözcük ya da karakter hata oranı kullanılan dillerde yaklaşık 2.000 karakter). Büyük farkları ayırmaya yeter, küçükleri söylemeye yetmez. Bu sayfa bir modelin “yeterli kaldığını” söylüyorsa bunu eşit olduğunun kanıtı olarak değil, bu örneklem boyutunda ayrışmadı diye okuyun.
whisper -cli , uygulamanın bağlam ve kod çözme ayarlarıyla; ses etkinliği algılama, halüsinasyon filtresi, ses seviyesi normalleştirme ve dil kısıtlaması ekleyen tam Lesskeys işlem hattıyla değil. Bu tablo o işlem hattını ölçmez.- Okunmuş konuşma, toplantı değil. Sohbet havasındaki ve üst üste binen ses belirgin biçimde daha zordur.
- Mutlak oranlar bir miktar şişkinlik taşır; bunun nedeni, bir insan okuyucunun hata saymayacağı sayı ve noktalama biçimi farklarıdır. Aynı dilde modeller arasındaki karşılaştırmalar güvenilir kısımdır; diller arasındaki karşılaştırmalar daha gürültülüdür.
Sorular
Dile göre Whisper doğruluğu hakkında sorular
Mac ’te hangi Whisper modelini çalıştırmalıyım?
Bir Whisper modelini kuantize etmek doğruluğu düşürür mü?
Daha büyük bir Whisper modeli her zaman daha mı doğrudur?
Bu bulutta mı ölçüldü?
Daha fazlası