微软推出Win11端侧小型语言模型Mu，开启自然语言搜索新体验

微软发布Win11端侧小型语言模型Mu，开启智能搜索新纪元

　　 6月24日，微软公司发布了一款名为Mu的新一代设备端小型语言模型，该模型已集成至Windows 11系统中。其目标是为用户提供更智能、更自然的语言交互体验，并进一步提升系统设置中的搜索功能。

　　 去年，微软曾发布搭载专用神经处理单元（NPU）的Copilot个人电脑，该NPU的算力超过40TOPS。这些设备内置了Phi-Silica，一款用于在本地为微软自有应用及第三方开发者应用提供语言智能功能的小型语言模型（SLM）。

　　 如今，微软在Windows 11中推出了名为Mu的全新本地小型语言模型。这款模型旨在打造一个基于人工智能的智能助手，使其能够理解用户的自然语言提问，并将其无缝整合到系统设置应用中的现有搜索栏内，从而提升用户的操作体验。为此，微软借助Mu模型为设置应用中的新代理功能提供支持，该功能目前已在开发频道向Windows预览体验计划的成员开放，且仅限于搭载Copilot的个人电脑用户使用。

　　 据了解，与Phi-Silica类似，Mu也被设计为能够在NPU上高效运行，可在本地实现每秒超过100个token的处理速度。在官方博客文章中，微软详细介绍了Mu语言模型的设计与训练过程。以下是关于Mu语言模型的概要信息：

　　 Mu是一款拥有3.3亿参数的编码器-解码器语言模型。相比同规模的解码器模型，其编码器-解码器结构可将首个token的延迟降低约47%，并提升解码速度4.7倍。在部分组件中，Mu采用了权重共享技术，从而减少了整体参数量。微软借助Azure机器学习平台，使用NVIDIA A100 GPU对Mu进行了训练。尽管Mu的规模仅为Phi-3.5-mini的十分之一，但其性能却几乎与经过类似微调的Phi-3.5-mini相当。此外，该模型在处理多词查询方面表现更为出色。对于短词或部分词输入，系统在搜索框中仍会展示相关的词汇和语义搜索结果。

　　 对于希望体验这一全新人工智能代理功能的用户，可下载Windows 11 Build 26120.3964（KB5058496）或更高版本，在Windows设置应用中尝试这项新功能。随着操作系统持续更新迭代，微软正逐步将AI能力融入日常使用场景，提升用户的交互体验。这一举措不仅体现了技术发展的趋势，也为普通用户带来了更便捷的操作方式。