最近,龙芯宣布DeepSeek R1 7B模型在龙芯3号上运行,实现本地化部署,可为广大用户提供更快、更强、更省的训推体验。部署后无需依赖云端服务器,或可有效避免因网络波动或服务器过载导致的服务中断,有利于高效完成文档处理、数据分析、内容创作等多项工作,显著提升工作效率。
DeepSeek有两大特点,一是降低了对芯片算力的要求,二是开源,不绑定特定的硬件。
过去,国内、国外的AI方案是两个垄断,国外是英伟达建立的技术垄断,国内是某司以政商关系构建的垄断。
孙院士批驳过这种垄断,强调必须创造开源共享的平台和环境才能在AI上与美国竞争,某司用政商关系搞软硬件捆绑垄断只是在套取政策红利。事实上,由于生态封闭,支持的应用很少,某司的AI算力中心算力闲置率居高不下。DeepSeeK在短时间内取得的成果就恰恰验证了孙院士的观点。
本次DeepSeeK的巧妙之处就在于对于广大客户免费开源使用,也让广大客户免费为DS训练,一举多得。当然,DeepSeeK的高阶是收费的,这也是情理之中。
可以说,DeepSeeK对于过去被技术垄断和政商关系垄断的AI行业,是一个重大利好,用户可以绕过国内国际的寡头,使用更加多样化和相对性能弱一些的硬件完成过去一般要在英伟达平台才能完成的任务。这使更多厂商可以参与到AI科技竞赛中,实现百花齐放,各显神通。
当下,DeepSeek依赖云端服务器,铁流在使用时就经常发生卡顿,或无法访问服务器,可能是因为服务器资源不够,或者是有境外黑手在攻击服务器,影响DeepSeek的正常运转。
对于众多轻办公用户而言,未来本地部属会是一种需求,因为可以杜绝网络波动或服务器过载导致的服务中断,而本次在龙芯上运行DeepSeek的意义就在于此,将来的9A1000就已经能够满足文档处理、数据分析、内容创作的需求了,远期来看,70b模型这种还是得9A2000级别。
随着DeepSeek的广泛应用,未来在AI训练方面,除了英伟达的顶尖性能赛道,可能还会出现性价比赛道和低成本赛道。
所谓性价比赛道,就是峰值性能弱于英伟达,但价格也便宜些不少。
所谓低成本赛道,就是性能满足日常轻办公,非常便宜,这种低成本AI芯片非常适合办公电脑搭载,用DeepSeek完成语音转文字、文稿校对、PPT模板自动生成、自动美化、总结归纳等工作,必将解放生产力,特别是对于机关单位的文员而言,将大幅降低工作压力。
铁流期待在每一台龙芯电脑上实现DeepSeeK本地部署。