国产GPU鼎力支持!摩尔线程快速部署DeepSeek
DeepSeek V3、R1系列开源AI大模型在多语言理解、复杂推理任务中展现了卓越性能,不仅推动了AI技术的普及与发展,更是对开源社区的极大贡献。
2025-02-05 09:39:56
来源:快科技  

快科技2月4日消息,DeepSeek V3、R1系列开源AI大模型在多语言理解、复杂推理任务中展现了卓越性能,不仅推动了AI技术的普及与发展,更是对开源社区的极大贡献。

目前,各家科技巨头都已纷纷开始支持、部署DeepSeek,国产硬件也在加速支持。

作为国产全功能GPU创新企业,摩尔线程快速实现了对DeepSeek蒸馏模型推理服务的高效部署,可让更多开发者基于摩尔线程全功能GPU,进行AI应用创新。

一键体验地址:

https://playground.mthreads.com

此外,用户也可以基于摩尔线程MTT S80、MTT S4000显卡,进行DeepSeek-R1蒸馏模型的推理部署。

其实早在1月28日,就已经有B站UP主在摩尔线程MTT S80上手动完成实践:

https://www.bilibili.com/video/BV18YfQYEEs2

通过DeepSeek提供的蒸馏模型,能够将大规模模型的能力迁移至更小、更高效的版本,在国产GPU上实现高性能推理。

摩尔线程基于自研全功能GPU,通过开源与自研双引擎方案,快速实现了对DeepSeek蒸馏模型的推理服务部署。

开源框架适配:

基于Ollama开源框架,摩尔线程完成DeepSeek-R1-Distill-Qwen-7B蒸馏模型的部署,并在多种中文任务中展现了优异的性能,验证摩尔线程自研全功能GPU的通用性与CUDA兼容性。

自研引擎加速:

通过摩尔线程自主研发的高性能推理引擎,结合软硬件协同优化技术,通过定制化的算子加速和内存管理,显著提升了模型的计算效率和资源利用率。

这一引擎不仅支持DeepSeek蒸馏模型的高效运行,还为未来更多大规模模型的部署提供了技术保障。 

最后,摩尔线程即将开放自主设计的夸娥(KUAE)GPU智算集群,全面支持DeepSeek V3、R1模型,以及新一代蒸馏模型的分布式部署。

夸娥集群集成先进推理技术与分布式计算框架,将确保大规模模型的高效稳定运行,助力开发者快速实现业务落地。

最新文章
1
CES 2026,TCL 联合德国莱茵TÜV共同发布显示产品感知立体色域白皮书,推动色彩评价标准再升级
2
动力电池将迎来“数字身份证”,新能源车废旧动力电池回收利用新规来了
3
展望2026丨半导体产业十大看点
4
电视消费趋势观察:百寸大屏加速渗透,游戏电视引领场景
5
2026年空调行业的四大看点
6
2026年,中国家电零售市场的“内需答卷”如何写就?
7
继京东之后 美团也杀入卖车赛道 切入新模式大不同
8
红魔11 Air搭载骁龙8至尊版+自研双芯 手机也能玩PC大作
9
荣耀Magic8保时捷版独占24G至尊版内存:行业唯一 无敌了
10
全球唯一!海信电视工厂摘得制造业“奥斯卡”——全球首座电视行业“灯塔工厂”诞生!
11
方太智慧厨房专家战略持续深化 “智慧厨房新物种”重磅来袭
12
2025年电动两轮车市场“前高后低”,雅迪份额第一,谁领增长?
13
MediaTek发布天玑9500s和天玑8500,为旗舰细分市场注入新动力
14
“国补”东风息止,净水行业承压但已筑牢根基
15
2025全球智能手机出货量增2% 苹果20%份额登顶领跑市场
16
红魔11Air官宣:搭载悟空屏,极窄边框与电竞黑科技强势来袭
17
天玑 9500e加持,小米 REDMI Turbo 5 Pro跑分曝光!
18
1月面板市场价格稳定,2026年电视面板增长重心转向大尺寸
19
如何应对贸易战?看这三家吸尘器出口企业的“非标准化”答案
20
苹果全新MacBook Pro将在本月上架:首发M5 Max芯片
关于我们

微信扫一扫,加关注

商务合作
  • QQ:61149512