Microsoft Sumber Terbuka versi baru Phi-4: efisiensi inferensi naik 10 kali, dapat dijalankan di laptop

GoldenOctober2024

Data Jin10 10 Juli, pagi ini, Microsoft telah merilis versi terbaru dari keluarga Phi-4, Phi-4-mini-flash-reasoning, sebagai Sumber Terbuka di situs resmi mereka. Versi mini-flash mempertahankan karakteristik kecil namun berkinerja tinggi dari keluarga Phi-4, yang dirancang khusus untuk situasi yang dibatasi oleh Daya Komputasi, memori, dan latensi, dapat dijalankan dengan satu GPU, cocok untuk perangkat tepi seperti laptop dan tablet. Dibandingkan dengan versi sebelumnya, mini-flash menggunakan arsitektur inovatif SambaY yang dikembangkan oleh Microsoft, sehingga efisiensi inferensi naik 10 kali lipat, latensi rata-rata turun 2-3 kali, dan kinerja inferensi secara keseluruhan mengalami peningkatan yang signifikan.

Lihat Asli
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke Penafian.
Komentar
0/400
Tidak ada komentar
Perdagangkan Kripto Di Mana Saja Kapan Saja
qrCode
Pindai untuk mengunduh aplikasi Gate
Komunitas
Bahasa Indonesia
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)