seseorang menjalankan model ucapan di Apple Watch.

bukan demo mainan. granite 4.0 1B speech baru saja menduduki peringkat PERTAMA di leaderboard OpenASR.
ini yang menarik tentang itu:
• 1B parameter - setengah ukuran granite 3.3 2B
• akurasi transkripsi bahasa Inggris yang lebih tinggi daripada model yang lebih besar
• decoding spekulatif untuk inferensi lebih cepat di perangkat keras kecil
• 6 bahasa - Inggris, Prancis, Jerman, Spanyol, Portugis, Jepang
• bias daftar kata kunci agar benar dalam nama dan akronim
bagian yang tidak dibicarakan orang:
kamu membayar panggilan API whisper setiap bulan sementara model setengah ukuran pendahulunya mengungguli di perangkat yang terpasang di pergelangan tanganmu.
itu bukan optimisasi kecil. itu seluruh struktur biaya aplikasi ucapan edge yang runtuh.
model lebih kecil. akurasi lebih baik. TANPA ketergantungan cloud.