Hızlı ilk yanıta nasıl ulaştık

Hızlı bir ilk yanıt sihir değildir — mühendislik kararlarının toplamıdır. İşte kaputun altındakiler: kısa metinler neredeyse hemen çalmaya başlar, uzun olanlar ise arka planda işlenir.

Parça parça akış

Tüm dosyanın üretilmesini beklemiyoruz: model geri kalanını hesaplarken ilk ses kullanıcıya ulaşır. Bu, uzun metinlerde bile başlangıçta anında tepki hissi verir (tam sentezleri ilerleme çubuğuyla arka planda sürer).

Akış çıktısı, normal bir WAV dışa aktarımından ayrı olarak test edilmelidir.

Önbellek ve ısınma

Sık kullanılan ifadeler ve önceden ısıtılmış modeller soğuk başlangıcı ortadan kaldırır. Birlikte, yükten bağımsız olarak istikrarlı ve hızlı bir başlangıç sağlarlar.

Kendiniz deneyin — ücretsiz başlangıç karakter paketi kaydolduğunuzda.