Microsoft Open Source la nouvelle version Phi-4 : l'efficacité d'inférence big pump de 10 fois, peut être exécutée sur un ordinateur portable.

GoldenOctober2024

Jin10 données 10 juillet, ce matin, Microsoft a open source la dernière version de la famille Phi-4, Phi-4-mini-flash-reasoning, sur son site officiel. La version mini-flash conserve les caractéristiques de faible puissance et de haute performance de la famille Phi-4, et est spécifiquement conçue pour les scénarios limités par la puissance de calcul, la mémoire et la latence, fonctionnant sur un seul GPU, et adaptée aux appareils de bord tels que les ordinateurs portables et les tablettes. Par rapport à la version précédente, le mini-flash utilise l’architecture innovante SambaY développée par Microsoft, l’efficacité de l’inférence a connu un big pump de 10 fois, la latence a été en moyenne réduite de 2 à 3 fois, et la performance d’inférence globale a considérablement augmenté.

Voir l'original
Avertissement : Les informations contenues dans cette page peuvent provenir de tiers et ne représentent pas les points de vue ou les opinions de Gate. Le contenu de cette page est fourni à titre de référence uniquement et ne constitue pas un conseil financier, d'investissement ou juridique. Gate ne garantit pas l'exactitude ou l'exhaustivité des informations et n'est pas responsable des pertes résultant de l'utilisation de ces informations. Les investissements en actifs virtuels comportent des risques élevés et sont soumis à une forte volatilité des prix. Vous pouvez perdre la totalité du capital investi. Veuillez comprendre pleinement les risques pertinents et prendre des décisions prudentes en fonction de votre propre situation financière et de votre tolérance au risque. Pour plus de détails, veuillez consulter l'avertissement.
Commentaire
0/400
Aucun commentaire
Trader les cryptos partout et à tout moment
qrCode
Scan pour télécharger Gate app
Communauté
Français (Afrique)
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)