微软语言模型

摘要：本文探讨了微软新推出的Phi-3-Mini模型如何在较小的模型体积中达到出色的性能，详细分析了其在多任务语言理解基准测试中的表现，以及其预训练过程的策略。同时，探索了大数据和合成数据在提升小模型 …