1.清华大学计算机系长聘教授翟季冬表示,DeepSeek 通过算法和软件协同创新,实现了百倍性价比提升,为未来人工智能发展提供了启示。
2.翟季冬指出,中国在算力资源方面面临挑战,需要挖掘算法、系统软件和硬件协同创新的可能性。
3.由于中美硬件差异,国内智算中心中的国产算力资源存在闲置现象,如何将巨大算力需求与现有国产算力有效对接成为关键。
4.为此,翟季冬带领团队孵化了公司清程极智,致力于为国产闲置算力提供更友好的接口,推动行业用户方便地整合各类国产算力资源。
以上内容由腾讯混元大模型生成,仅供参考
一线 AI 洞察,智者深度思考
深入产业变革,共创 AI 未来
03:35
DeepSeek 与算力需求未来趋势
06:41
算力效能评估新视角
10:26
中美硬件差异下的软件思考
14:00
为何还没 Transformer 专用芯片
17:41
万卡集群训练难点
21:01
降本增效:推理优化的关键
24:41
Infra 如何为下一代大模型做好准备
27:19
大规模异构集群的算力管理
29:42
智算供需错配:系统软件如何补位
访谈文字整理
KV Cache 管理:推理过程会产生大量中间结果(KV Cache)用于降低计算量。如何管理这些数据很关键,比如可以采用页面式管理,但页面大小是固定还是根据负载特征动态调整,都需要仔细设计。 多卡协同:当模型较大时需要多 GPU 配合,比如在 8 个 GPU 上进行大模型推理,如何优化卡间并行也是一大挑战。 算法优化:还可以从量化等角度进行优化,充分发挥底层算力性能。
翟季冬,清华大学计算机系长聘教授,博士生导师,高性能计算研究所所长。青海大学计算机技术与应用学院院长。CCF高性能计算专委副主任、CCF杰出会员。清程极智首席科学家。
查看原图 124K