微软正式升级Windows 11系统的底层AI框架
我要评论近期，微软微软正式升级Windows 11系统的正式底层AI框架，实验性原生支持GGUF和ONNX两大主流模型格式的升级本地推理，以后用户不用额外安装复杂的底层第三方软件，直接在系统层面就能运行本地大模型，框架门槛直接降到几乎为零。微软
过去普通玩家在Windows电脑上跑本地大模型，正式流程非常繁琐：首先要先下载专门的升级第三方推理工具，接着从开源社区找对应格式的底层模型文件，还要手动配置环境变量、框架调整硬件加速参数，微软哪怕是正式对技术比较熟悉的用户，第一次折腾也要花好几个小时才能跑通，升级普通用户更是底层根本摸不着门道。而且不同的框架工具适配的模型格式还不一样，想换个不同格式的大模型试试，整个配置流程几乎要重来一遍，很多人折腾到一半就直接放弃了。
这次微软升级的Windows ML本地AI推理框架，直接和开源社区深度合作，在系统底层原生加入了对GGUF和ONNX两大主流模型格式的支持。GGUF是现在本地大模型领域的事实标准格式，几乎所有开源社区的主流本地大模型都采用这种格式封装，ONNX是跨平台通用的开放神经网络交换格式，大量工业级AI应用都基于这套格式开发。现在Windows 11系统原生就能直接识别这两种格式的模型文件，开发者不用再做复杂的格式转换，用户也不用额外安装第三方推理环境，直接就能在本地加载运行模型。
为了进一步提升本地运行的性能，微软还和英伟达深度合作，针对Windows平台的硬件适配贡献了大量底层性能优化代码。升级之后系统新增了专门的Windows ML Runtime API，比过去的推理路径拥有更高的运行性能、更深的系统级集成，开发者可以直接调用这套系统接口，快速给应用添加上文本生成、语音识别这类本地AI功能，不用自己从零搭建复杂的推理引擎，开发效率大幅提升。普通用户最直观的感受就是，大模型在自己的Windows电脑上本地运行的速度明显变快，哪怕是普通配置的家用电脑，也能流畅跑起主流的7B级大模型。
在实际使用的过渡层面，微软也做了非常平滑的兼容设计。过去大家广泛使用的ONNX Runtime API依然得到完整的官方支持，不会出现旧的AI应用突然没法运行的问题，同时微软明确表示，未来针对Windows平台的AI性能优化资源，会优先投向全新的Windows ML Runtime API，开发者可以根据自己的项目进度，自主选择合适的迁移时机，不用被迫仓促完成技术升级。这套新的系统接口还直接自带了封装好的文本生成API和语音识别API，开发者不用再自己处理复杂的底层推理逻辑，几行简单的代码就能给应用添加上本地AI能力。
目前这套实验性的原生本地推理能力已经随最新的Windows 11版本推送，后续微软还会持续迭代优化兼容性和运行性能，逐步把本地AI能力变成Windows系统的基础原生能力，让更多普通用户不用折腾复杂配置，就能轻松在自己的电脑上用上完全离线、数据不会上传云端的本地大模型。
相关文章
新质十五五 绿色绘征途——第四届“新绿杯”全国总决赛即将启幕
由中国通信企业协会、中国信息通信研究院联合主办的第四届“新绿杯”信息通信技术赋能碳达峰碳中和创新大赛全国总决赛路演阶段已进入倒计时，全国总决赛将于2026年11月12日至13日2026-11-03
HomePod mini 2将在10月30号发售 新增粉色、绿色
全新的HomePod mini 2将在10月30号发售，新增了粉色、绿色，此外还能选择白色、蓝色、午夜色，售价1099元，购买还能领取Apple Music免费试听3个月。PChome 10月14号消2026-11-03
“胡向导，真是太感谢你了！没有你，我们可能都迷路了！”绩溪县伏岭派出所邵宏杰所长激动地说道。“这是我应该做的，我可是山里的‘活地图呢’！”胡良建一边说一边爽朗地笑着。这一幕是发生在绩溪县伏岭镇的一场意2026-11-03
当前，可再生能源已成为兼具经济性与绿色价值的主体能源，正在重塑全球能源供给格局，重构人类经济社会发展基石。立足于此，我们发出倡议，呼吁全球行业同仁团结协作，拓展绿色电力多元应用新空间，让风光发电成为动2026-11-03
孙燕姿演唱会中突发不适，坚持唱完歌后移动困难，多名工作人员冲上台搀扶
搜狐娱乐讯 5月15日晚，孙燕姿在台北举行演唱会，表演途中她腿部突然有些不适，疑似抽筋。但她仍坚持唱完当前曲目，伴奏结束后她发现自己有些动不了，工作人员搀扶她慢慢挪到椅子上坐下，随后工作人员协助她调整2026-11-03
近年来，含山县昭关镇聚焦辖区内未成年人暑期“看护难”问题，积极整合多方资源，拓展村级党群服务中心功能，通过“托”“管”“教”相结合的方式，因地制宜提供精准服务，打造居民“家门口”的一站式假期服务港湾。2026-11-03
最新评论