1.硅基流动作为大模型服务商之一,对DeepSeek-R1 API评测指出至少7个误区,旨在帮助用户快速筛选符合需求的服务。
2.误区包括将API与App/网页端混合对比、官方R1与第三方量化版区别、云平台API不能联网上传文件等。
3.事实上,大模型云服务平台与上层应用面向不同的用户群体,不应混为一谈对比产品功能。
4.单次测试结果充满随机性,多次测试取平均值才能更客观地比较各平台模型API的准确率。
5.硅基流动建议评测者在测试时加入Pro版R1,以获得更稳定的服务体验。
以上内容由腾讯混元大模型生成,仅供参考
来源|硅基流动
作为大模型服务商之一,我们乐见公开的大模型 API 服务评测报告与使用体验,专业、客观、严谨的评测有助于更多用户快速筛选符合需求的服务,也能促进 API 提供商提升服务质量。
由于 API 服务评测的测试要素及对齐条件较多,一旦影响因子设置不一致,很容易得到有缺陷的评测数据与结论。现实测评情况也表明,这的确是一项较高门槛的工作。
01. 第三方 R1 降智,不是满血版?
误区:“在某应用调了硅基流动、xx 的 DeepSeek-R1 API,效果不如在 DeepSeek 官方 App / 网页版 与 xx 应用上使用,感觉不是满血版 R1。”
市面上基本不存在“非满血版 R1”,也基本不存在所谓模型“降智”,而 R1 蒸馏版(70B、1.5B等)与满血版的效果差距很明显,一般知名服务商都会注明,如果这些平台提供所谓“非满血版 R1”,很容易测试出来,这完全是自砸招牌,他们没有动机“以次充好”。
在效果测试时,非盲评测试可能会受到主观因素影响,甚至答案的先后顺序也会影响最终评测结果,无法证明各平台所提供 DeepSeek-R1 API 能力存在明显差异。我们认为,如果在双盲测试后各家 API 效果接近(或用户在日常场景中感觉不出区别),可认为这些平台的模型精度是一致的。
03. 云平台 API 不能联网、上传文件?
误区:“综合测评分析,xx 云平台在功能性上更胜一筹,不仅能够支持语音输入,还能够进行文件上传;仅有 xx 应用支持图片上传。”
目前,为方便 C 端用户直接体验 DeepSeek-R1 API 服务,多数云服务平台也开始提供联网搜索、文件上传等功能,硅基流动正在内测支持这些功能,后续也将公开发布供用户使用。
04. 同样的超参数,硅基流动的 R1 输出乱码?
误区:“同一篇文章大纲,相同的提示词,同一个参数温度,硅基流动输出的内容胡乱瞎说,中间还有一段居然输出中文,xx 基本上跟官方保持一致。”
05. 第三方 API 答题准确率有显著差异?
误区:“此前,DeepSeek-R1 官方在 AIME 2024 基准测试中取得了 79.8% 的 pass@1 得分。而此次我们通过 Python 脚本进行测评 AIME 题库下,正确率由高到低依次是:xx 83.33% ;官方 Deepseek 73.33% ;xx 71.67% ;xx 58.33% 。其中 xx、 Deepseek 各网络状态下表现平稳,测试均为一遍过,30 道题全部响应,测得比较省心。”
06. 第三方 API 推理字数太少?
误区:“测试了四道题,xx、xx、xx 等平台的生成内容的总字数都接近三千字,其中推理字数占比分别达到 68%、69% 以及 60%,展现出更强的逻辑延展性,相较之下,部分平台仅能提供浅层推理。”
07. 硅基流动的 R1 测试时无响应?
此前,为响应诸多开发者提出的更稳定 DeepSeek-R1 & V3 服务的呼声,硅基流动 SiliconCloud 平台开始提供分为普通版(可使用免费 Token)与 Pro 版(面向付费用户,更稳定)的 R1 & V3,两套模型的能力并没有区别。
在此,恳请评测者测试时加入 Pro 版 R1,相信会有非常不错的效果。我们也在积极解决普通版 R1 资源供应的问题,建议对稳定性有较高要求的用户使用 Pro 版 DeepSeek-R1。