国产GPU鼎力支持!摩尔线程快速部署DeepSeek
DeepSeek V3、R1系列开源AI大模型在多语言理解、复杂推理任务中展现了卓越性能,不仅推动了AI技术的普及与发展,更是对开源社区的极大贡献。
2025-02-05 09:39:56
来源:快科技  

快科技2月4日消息,DeepSeek V3、R1系列开源AI大模型在多语言理解、复杂推理任务中展现了卓越性能,不仅推动了AI技术的普及与发展,更是对开源社区的极大贡献。

目前,各家科技巨头都已纷纷开始支持、部署DeepSeek,国产硬件也在加速支持。

作为国产全功能GPU创新企业,摩尔线程快速实现了对DeepSeek蒸馏模型推理服务的高效部署,可让更多开发者基于摩尔线程全功能GPU,进行AI应用创新。

一键体验地址:

https://playground.mthreads.com

此外,用户也可以基于摩尔线程MTT S80、MTT S4000显卡,进行DeepSeek-R1蒸馏模型的推理部署。

其实早在1月28日,就已经有B站UP主在摩尔线程MTT S80上手动完成实践:

https://www.bilibili.com/video/BV18YfQYEEs2

通过DeepSeek提供的蒸馏模型,能够将大规模模型的能力迁移至更小、更高效的版本,在国产GPU上实现高性能推理。

摩尔线程基于自研全功能GPU,通过开源与自研双引擎方案,快速实现了对DeepSeek蒸馏模型的推理服务部署。

开源框架适配:

基于Ollama开源框架,摩尔线程完成DeepSeek-R1-Distill-Qwen-7B蒸馏模型的部署,并在多种中文任务中展现了优异的性能,验证摩尔线程自研全功能GPU的通用性与CUDA兼容性。

自研引擎加速:

通过摩尔线程自主研发的高性能推理引擎,结合软硬件协同优化技术,通过定制化的算子加速和内存管理,显著提升了模型的计算效率和资源利用率。

这一引擎不仅支持DeepSeek蒸馏模型的高效运行,还为未来更多大规模模型的部署提供了技术保障。 

最后,摩尔线程即将开放自主设计的夸娥(KUAE)GPU智算集群,全面支持DeepSeek V3、R1模型,以及新一代蒸馏模型的分布式部署。

夸娥集群集成先进推理技术与分布式计算框架,将确保大规模模型的高效稳定运行,助力开发者快速实现业务落地。

最新文章
1
20多家主流券商集体“看多”背后:海信电视“长期价值”浮现
2
家电巨头步入全球化深水区 美的海尔格力上半年海外收入如何?
3
2025半年报揭晓:白电三巨头竞争格局分化加剧
4
iPhone 17系列爆料汇总:Air极致轻薄、Pro独占A19 Pro芯片与灰色回归
5
iOS26系统前瞻:液态玻璃设计革新,AI与CarPlay成重头戏
6
最新安卓旗舰性能榜出炉:红魔最强游戏手机第一
7
全球首款阔折叠手机 华为Pura X出货量超70万台
8
老板电器上半年营收利润下滑,厨电业怎么了?
9
家电三巨头半年业绩分化,这三点决定增长质量和未来潜力
10
vivo Y500发布:vivo史上最强蓝海电池,续航耐用双灭霸
11
追觅净水构建智慧水健康生态系统,全系顶配新品9月4日亮相
12
海信视像获社保基金增持 20多家主流券商机构给予“看好”评级
13
为全球制造业高质量发展注入新动能:工业AI超级大脑TPT 2有望重塑生产范式
14
可灵AI“灵感工坊”沙龙登陆成都,重磅升级创作者计划
15
以火锅为媒促消费 快手成都热辣火锅节激活城市文旅新活力
16
技术全面碾压!三筒发明者Leader又发升级款狙击同行跟进
17
创维集团发布2025中期业绩:总营收稳增逾两成,新能源与全球化双引擎动力十足
18
新石器无人车亮相百度云智大会,生态合作加速技术升级
19
科技赋能行业革新!长虹空调荣膺“数字生态大会”双项标杆荣誉
20
国内首个混合碳化硅产品实现量产
关于我们

微信扫一扫,加关注

商务合作
  • QQ:61149512