发现者网
产业经济 科技业界 3C数码 文化传媒 移动智能 家电行业 AI大模型 汽车出行 热点资讯

微软Win11电脑本地运行DeepSeek-R1大模型,NPU能力引关注!

2025-01-30来源:ITBEAR编辑:瑞雪

在人工智能与边缘计算的交汇点上,微软近日迈出了重要一步,宣布推出专为NPU(神经处理单元)优化的DeepSeek-R1模型。这一创新之举不仅标志着微软对边缘计算潜力的深刻洞察,也预示着搭载高通骁龙X芯片的Copilot+ PC将率先迎来一场技术革命,随后英特尔酷睿Ultra 200V等平台也将陆续加入这一行列。

微软通过官方渠道宣布,DeepSeek-R1的首个版本——DeepSeek-R1-Distill-Qwen-1.5B,已正式入驻Azure AI Foundry和GitHub,供开发者下载使用。同时,微软还透露,参数规模更大的7B和14B版本也即将面世,这将极大地助力开发者充分挖掘Copilot+ PC中NPU的强大性能。

DeepSeek-R1模型应用场景

微软强调,Copilot+ PC上的NPU开创了一种全新的AI应用范式。在这一范式下,生成式AI不仅能够在被调用时迅速响应,还能支持半连续运行的服务模式。这一特性使得开发者能够利用AI推理引擎,构建出更加主动、持续的用户体验。

为了实现这一目标,微软在Phi Silica项目的基础上,积累了丰富的推理优化经验和技术。这些经验和技术被巧妙地融入到针对NPU优化的DeepSeek模型中,包括模型分割以实现性能与效率的最佳平衡、低比特率量化以及Transformer模型到NPU的映射等。微软还借助Windows Copilot Runtime(WCR)和ONNX QDQ格式,在多样化的Windows生态系统中实现了模型的广泛部署。

DeepSeek模型优化对比

为了让更多开发者能够轻松体验DeepSeek模型的魅力,微软提供了便捷的下载途径。只需在Visual Studio Code中安装AI Toolkit扩展,开发者即可轻松获取这一创新成果。同时,以ONNX QDQ格式优化的DeepSeek模型也将很快出现在AI Toolkit的模型目录中,供开发者直接从Azure AI Foundry中拉取使用。

原始模型与NPU优化模型响应对比

微软还通过实例展示了原始模型与NPU优化模型之间的差异。在相同的提示下,原始模型和NPU优化模型给出了略有不同的响应。这一对比不仅彰显了NPU优化模型在推理能力上的提升,也进一步验证了微软在模型优化方面的深厚实力。

“祖冲之三号”同款芯片赋能!我国超导量子计算机“天衍-287”搭建完成并开放服务
据了解,该量子计算系统具备“量子计算优越性”能Q力,处理特定问题的速度比目前最快的超级计算机快4.5亿倍,未来将接入“天衍”量子计算云平台并首次面向全球开放应用服务,这也将是我国首个具备“量子计算优越性”的量…

2025-11-14

水库增殖放流站物联网升级:实时监测,远程管控,开启智慧渔业新模式
通过接入溶解氧传感器、水温传感器、水质监测仪、自动投料机、自动增氧机、循环水设备PLC、摄像头等多种设备,物通博联智能数采网关能够实时采集各个鱼池的水质、溶解氧、水温以及投料、增氧、循环水等设备状态,通过5…

2025-11-14

水浸传感器RS-SJ:4G蓝牙双助力,高效守护防积水安全
当检测到水浸情况时,相关信息会通过4G网络快速传输至指定的管理平台或用户终端,无需人工现场查看,让用户在第一时间知晓积水隐患,为及时采取排水、设备转移等应对措施争取时间,避免积水造成更大损失。 水浸传感器凭借…

2025-11-14

上海电信“双万兆”护航进博会:数智赋能通信保障,服务跨越语言距离
浦东机场T1电信营业厅及T2一站式服务中心电信柜台是进博会观众和外宾抵沪的“入境第一站”, 两处服务点均开设“进博专席”,为参展人员和往来旅客提供中英双语咨询、交通指引与爱心便民服务。未来,上海电信将持续夯…

2025-11-13

照片压缩至5M内超全指南!七大实用方法助你轻松搞定分享难题
具体的执行步骤是:将它们直接开启,随后去挑选照片,该应用会自动给出推荐的压缩级别,你能去预览最终结果,还能够对某些设置予以调整,比如把分辨率调低或者转换格式,借此令文件大小小于5MB,这对即时分享至社交媒体来…

2025-11-12

山海星耀攻克超低轨难题,以硬核技术逐梦空天新蓝海
天虎科技了解到,虽然当前市场上有一些针对超低轨的吸气式推进器,但从气体收集率、推进效率、测试工作环境等维度上,山海星耀的电推进器均具备一定优势。 蔡东升表示,目前该产品是商业航天公司首次实现了“高真空运行环…

2025-11-12

万卡AI集群:算力变革下数据中心建设逻辑、系统瓶颈与交付模式之变
它迫使数据中心的建设逻辑从“基建思维”转向“IT思维”;它将系统瓶颈从“算力”引向了“网络”;它也将交付模式从“工程项目”推向了“产品制造”。 当一个万卡集群被点亮时,它不再是一个被动容纳IT设备的“机房”…

2025-11-12

荣旭传媒技术破局:以专业方案化解直播痛点,成就高性价比之选
传统方案在视频、音频和网络方面存在诸多不足,而荣旭传媒通过先进的技术和专业的设备,有效解决了这些问题。传统方案的视频分辨率较低,画面不够清晰,而荣旭传媒的4K 超高清视频拍摄制作让画面质量有了质的提升;传统…

2025-11-12

Viwoods发布AiPaper Reader电纸书:6.13英寸墨水屏搭载AI阅读互动功能
IT之家 11 月 11 日消息,据科技媒体 NoteBook Check 今天报道,Viwoods 现已推出 AiPaper Reader电纸书,运行 Android 16 操作系统,机身配备专用 AI …

2025-11-12