国产GPU鼎力支持!摩尔线程快速部署DeepSeek
DeepSeek V3、R1系列开源AI大模型在多语言理解、复杂推理任务中展现了卓越性能,不仅推动了AI技术的普及与发展,更是对开源社区的极大贡献。
2025-02-05 09:39:56
来源:快科技  

快科技2月4日消息,DeepSeek V3、R1系列开源AI大模型在多语言理解、复杂推理任务中展现了卓越性能,不仅推动了AI技术的普及与发展,更是对开源社区的极大贡献。

目前,各家科技巨头都已纷纷开始支持、部署DeepSeek,国产硬件也在加速支持。

作为国产全功能GPU创新企业,摩尔线程快速实现了对DeepSeek蒸馏模型推理服务的高效部署,可让更多开发者基于摩尔线程全功能GPU,进行AI应用创新。

一键体验地址:

https://playground.mthreads.com

此外,用户也可以基于摩尔线程MTT S80、MTT S4000显卡,进行DeepSeek-R1蒸馏模型的推理部署。

其实早在1月28日,就已经有B站UP主在摩尔线程MTT S80上手动完成实践:

https://www.bilibili.com/video/BV18YfQYEEs2

通过DeepSeek提供的蒸馏模型,能够将大规模模型的能力迁移至更小、更高效的版本,在国产GPU上实现高性能推理。

摩尔线程基于自研全功能GPU,通过开源与自研双引擎方案,快速实现了对DeepSeek蒸馏模型的推理服务部署。

开源框架适配:

基于Ollama开源框架,摩尔线程完成DeepSeek-R1-Distill-Qwen-7B蒸馏模型的部署,并在多种中文任务中展现了优异的性能,验证摩尔线程自研全功能GPU的通用性与CUDA兼容性。

自研引擎加速:

通过摩尔线程自主研发的高性能推理引擎,结合软硬件协同优化技术,通过定制化的算子加速和内存管理,显著提升了模型的计算效率和资源利用率。

这一引擎不仅支持DeepSeek蒸馏模型的高效运行,还为未来更多大规模模型的部署提供了技术保障。 

最后,摩尔线程即将开放自主设计的夸娥(KUAE)GPU智算集群,全面支持DeepSeek V3、R1模型,以及新一代蒸馏模型的分布式部署。

夸娥集群集成先进推理技术与分布式计算框架,将确保大规模模型的高效稳定运行,助力开发者快速实现业务落地。

最新文章
1
不止RGB-Mini LED!海信IFA重磅新品曝光,全球首款RGB场序显示产品即将亮相
2
【逛展指南】2026电博会全攻略
3
首秀亮点抢先看!2026电博会,这些“首次”值得关注
4
爱普生AI学习助手升级4.0:四大助手就位,开学季让中学生学习更高效
5
柜机挂机双双跻身TOP榜单,海信大力神空调U6持续引爆新风赛道
6
罗永浩怒了,要为“老年人”贴牌做电视,传统厂商机会来了?
7
清闲OC1 Pro实测:坐过这把工学椅后,终于知道啥叫“腰有靠山”
8
新芽破土・创见未来 2026年第二届“科创新芽” 南上海创新创业大赛正式启动
9
曾经的“彩电一哥”康佳即将退市,电视行业竞争激烈
10
营收全线溃退 家电线下零售如何自救?
11
集成灶“四小龙”半年报全线下滑,行业困境何解?
12
巨头们的“冬天”:格力守、海尔变、海信熬,美的“独增”?
13
最高涨1000元!华为小米荣耀集体涨价,换机成本大幅攀升
14
OPPO Find X10标准版核心配置曝光:8000mAh+双2亿影像,定位“最强旗舰标准版”
15
小米撕掉友商遮羞布:目前市面上多半增程车CLTC纯电续航都虚标 跑高速打七折
16
余承东:华为Mate XT2首次把硬件级防窥带入大屏
17
热搜第一!多款手机正式涨价 网友:就差iPhone 17没涨了
18
华为小米默契齐聚,长虹矩阵式布局,RGB-MiniLED电视市场格局要变?
19
为一家人重做AI系统,海信JUOS抢下家庭AIOS定义权
20
2026电博会重磅升级: 线上平台+现场对接,让供需“双向奔赴”
关于我们

微信扫一扫,加关注

商务合作
  • QQ:61149512