发现者网
产业经济 科技业界 3C数码 文化传媒 移动智能 家电行业 产业互联网 AI大模型 汽车出行

微软Copilot+ PC实现新突破,本地运行DeepSeek 7B和14B大模型

2025-03-04来源:ITBEAR编辑:瑞雪

微软近日宣布了一项重要进展,正式为Copilot+ PC引入了DeepSeek-R1的7B和14B蒸馏模型,这一功能通过Azure AI Foundry平台实现。此举标志着微软在将AI能力进一步融入个人电脑方面迈出了关键一步。

早在今年年初,微软便透露了将DeepSeek-R1模型的NPU优化版本引入搭载高通骁龙X处理器的Copilot+ PC的计划。如今,这一承诺已如期兑现,为用户带来了更为强大的本地AI运算能力。

据微软官方博客介绍,这一新功能将首先从搭载高通骁龙X处理器的Copilot+ PC开始部署,随后将逐步扩展到英特尔酷睿Ultra 200V和AMD锐龙系列的设备。这意味着,越来越多的用户将能够享受到由AI带来的便捷与高效。

由于DeepSeek模型运行在NPU上,这大大减轻了对PC电池续航和散热性能的压力。同时,用户能够持续获得强大的AI计算能力,而CPU和GPU则可以专注于执行其他任务,从而提升了整体系统的运行效率。

微软在模型优化方面下足了功夫。他们使用了内部开发的Aqua自动量化工具,成功将所有DeepSeek模型的变量量化为int4权重。然而,目前模型的标记速度尚有待提高。据微软报告,14B模型的标记速度仅为8 tok/秒,而1.5B模型的标记速度则接近40 tok/秒。不过,微软表示他们正在积极优化,以期进一步提高速度。

对于开发者而言,这一新功能无疑是一个利好消息。他们现在可以通过AI Toolkit VS Code扩展,在Copilot+ PC上轻松下载和运行DeepSeek模型的1.5B、7B和14B版本。这将为他们提供更加丰富的AI工具,助力他们开发出更加智能、高效的应用程序。

Anthropic获35亿融资,估值跃升至615亿
人工智能领域的又一重磅消息传来,初创企业Anthropic宣布在周一成功完成了新一轮融资,其投后估值惊人地跃升至615亿美元。本轮融资总额高达35亿美元,由Lightspeed Venture Partners担任领投角色,紧随其后的是一系列知名投资机构,包括Salesforce Ventures、Cisco Investments、Fidelity Management & Research Co.、General Catalyst、D1 Capital Partners以及Jane Street等。

2025-03-04