钉钉x昇腾:用AI一体机撬动企业数字资产智能化

原创 Alter聊科技 2024-09-30 21:11

钉钉和昇腾从硬件到软件的深度协同优化,帮助企业快速、高效、稳定地落地大模型应用,加速生产、销售、研发、管理等环节迈向数智化, “一键”挖掘企业数字资产的价值。

撰文张贺飞
编辑沈菲菲

“走红”近两年后,大模型正在加速走进千行万业。

由于大模型的主要模态是文字和图片,恰好是数字化办公最基础的内容要素,办公于是成了离AI最近的场景。

公文写作、表格生成、提炼大纲、文本翻译、代码润色、数据统计、智能问答……越来越多的应用正在办公场景落地,曾经需要几个小时才能处理的工作,现在被压缩到了分钟级乃至秒级。

特别是进入2024年后,大模型tokens窗口扩张使得百万字的无损上下文输入成为现实,衍生出了阅读论文、搜索网页,在海量资料中进行信息整理和分析的新应用场景。AI智能不断涌现,要么加入AI,要么被AI淘汰,成了“打工人”茶余饭后的谈资。

不过,要把AI接入办公场景,也存在一定问题:面对效率和安全,企业该何选择的问题?

不少企业多年经营,留存下了大量的数字资产,涉及内部知识、技术文档、经验分享、财务数据、业务订单等等,可以说是一家企业“核心竞争力”的源泉。AI存在一定安全风险,一旦泄密,对于企业来说,无疑是“自毁长城”。

既要保障数字资产的安全,也想用AI激发出新动能。比较主流的做法是本地化部署,即将大模型部署到本地服务器上,在数据不外漏的前提下,用大模型盘活数字资产,向智能技术要效益,向私有部署要安全。

理想很丰满,现实却很骨感。大模型走进企业,需要一系列软硬件支持。摆在企业面前的就是安全、性能和成本的“不可能三角”:在算力成本高企的背景下,数据安全常常对应着海量的成本投入;不想在硬件上投入太大,性能不可避免大打折扣。

面对办公AI的“拦路虎”,钉钉和昇腾给出了新的解法:日前举办的HC2024昇腾产业峰会上,联合发布了“钉钉专属AI一体机解决方案,通过软硬件的深度协同,加速企业智能助理落地。

01.
本地化部署的“三重门”

之所以会出现“不可能三角”,根源在于AI在办公场景落地时普遍出现的三类痛点:

一是数据安全疑虑。

随着越来越多的业务走向数字化,企业数据在终端、应用云端、数据中心间流转,链路非常复杂,导致数据要素的流通风险激增。再加上大模型的“黑箱”问题,数据一旦投喂给大模型就无法“撤回”。

早在2023年4月,三星就曝出了数据泄露事件。半导体部门的工程师使用ChatGPT修复源代码问题,导致内部会议记录等数据以提问的方式上传到了ChatGPT的训练数据库。美国数据安全公司Cyberhaven曾统计160万员工使用AI的情况,发现3.1%的“打工人”曾直接将公司内部数据喂给ChatGPT分析。



所以很多企业对数字资产智能化的策略是:内网部署、进行物理层隔离,从模型、数据、应用等全方位保障企业数据内容安全。

二是成本和不确定性。

本地化部署的代价也很明显,涉及算力、运维、模型微调等一系列流程,并且存在极大的不确定性。

以算力基础设施为例,需要解决CPU、GPU、内存、网络等一连串挑战,单单是基本的硬件投入,就需要数十万以上的预算。如果要实现长文本阅读等高算力场景,意味着百万级、千万级的算力成本。

大模型的微调和部署,同样是成本开支的大头。2023年大模型刚走红时,模型定制开发的价码一度达到上千万,即使是行业回归了理性,也需要上百万的费用。另一个不应该被忽略的是,市面上的主流大模型往往保持着按月更新的节奏,不断有新的能力被挖掘,每一次版本更新后都需要重新适配。

三是缺乏落地经验。

拥抱AI是战略层面上的,落地应用则是战术层的。在战略上做出正确选择很重要,但战术上的挑战一点都不少。因为大模型的落地应用是一个不断试错的过程,存在时间周期长、落地成本高的特征。

目前的技术距离通用人工智能还有不小的距离,大模型的能力可以应用到哪些业务场景中,需要一个个去尝试,再根据业务场景的实际表现进行调整测试。何况还存在“懂不懂行”的争论,开发者不懂一线员工的需求,一线员工不懂AI,无形中产生了种种内耗,制约着AI的落地进程。

办公AI的落地不单单是一个技术问题,也是一个工程问题,智能化的能力和行业应用经验一个都不能少。

以上种种问题,既是行业内普遍存在的现象,也是钉钉和昇腾合作的出发点。双方联合给出的解题思路正是“钉钉专属AI一体机”,在昇腾Atlas 800I A2推理服务器的使能下,能提供从算力、模型、数据库到Agent应用开发和场景部署的一站式一体化落地解决方案,让AI的落地企业,不再是复杂的系统工程,而是开箱即用的服务。

02.
1+1>2的“协同效应”

面对希望快速落地大模型应用、数据安全敏感度高、担心成本大的企业诉求,钉钉和昇腾能否给出最优解?

在回答这个问题前,不妨先了解下钉钉的AI探索。

截至2023年,已经有2500万组织、7亿用户使用钉钉。隐藏在数字背后的,恰恰是钉钉在办公领域的全场景布局,涵盖协作、沟通、知识等高频场景,不仅意味着钉钉对企业办公场景需求和痛点的深刻洞察,也让钉钉拿到了AI时代的“入场券”,探索大模型在办公领域的应用前景。

可以找到的动作有很多。譬如2024年初的新品发布会上,钉钉把焦点留给了AI Agent,用户只需要简单配置,即可实现智能问答、图像生成、内容创作、数据统计等能力。



过去的大半年时间里,以钉钉为底座的AI产品和方案不断涌现,从底层的大模型,到RAG、混合云部署在内的学习调优,再到简单高效的Agent创建和深入知识、人事、市场、销售、产研等不同场景的Agent应用,其中就包括针对企业数字资产的专属AI解决方案和智能应用。
比如面向数据资产的ChatBI,可以用自然语言随时随地查询经营数据,实现了“所想即所见”的高效率;

比如面向知识资产的ChatMemo,先让大模型学习专业文档、融合图谱与向量,即可提供专家级回答;

再比如面向应用资产的ChatForm,配合宜搭的无代码搭建能力,拖拉拽就能打通数据,创造智能应用……
不难得出这样的结论:钉钉的方案和能力可以满足企业数字资产向智能要效益的绝大部分需求。有了这种被千万组织、数亿用户验证过的,办公AI本地化部署方案,企业AI转型就不再需要从0到1“重复造轮子”。

而深耕AI框架、算子、计算架构、网络等根技术的昇腾,接棒了高性能算力、高能效硬件、智能运维等基础设施。



在硬件方面,钉钉专属AI一体机搭载的昇腾Atlas 800I A2推理服务器,支持百亿级LLM大模型推理,并可以面向中心规模部署,实现保障业务SLA要求下的最大有效输出。

在软件方面, MindIE推理引擎提供针对大模型的推理、训练,可以提供通信加速、解码优化、量化压缩、调度优化等能力,全方位保障钉钉专属AI一体机的模型推理性能。

其中在14B-70B大模型的推理场景下,钉钉专属AI一体机的W8A8量化压缩比W8A16提升了40%,通过HCCS多级通信优化,绝大部分模型的吞吐平均性能达到了友商的1.5倍。

同样的,还有白屏化部署功能,在大模型的部署过程汇总,用户无需关注背后的技术复杂性和操作细节,而是在图形化的界面上一步步点击、配置、安装,大幅降低了模型部署的门槛,让企业更方便地接入。

钉钉的大模型和场景优势,遇到昇腾的底层软硬件能力,碰撞出了1+1>2的“协同效应”:从硬件到软件的深度协同优化,帮助企业快速、高效、稳定地落地大模型应用,加速生产、销售、研发、管理等环节迈向数智化, “一键”挖掘企业数字资产的价值。

03.
联手打破“不可能三角”

最后必须回答的问题是:钉钉专属AI一体机都有哪些落地场景,能够给企业带来什么样的价值?

我们找到了一些真实的落地案例。

第一个是知识助理。

钉钉专属AI一体机对企业的产品资料、技术文档等进行学习后,扮演起了“销售助理”的角色,帮助销售人员快速整理产品资料,以对话的方式对比不同型号产品的差别、解答产品的应用场景,进一步提高销售人员的工作效率。

衍生出的场景还有很多。比如面向售前的智能导购,根据消费者的描述和需求,筛选推荐最适合的产品;再比如销售陪练,以陪练的方式对新入职的销售人员进行水平测验,迅速成为“老司机”。

第二个是管理助理。

过去有出差需求时,需要先提交出差申请,通过后人事预订机票和酒店,整个过程至少需要三四个小时。现在可以将相关权限下放给AI助理,只需要语音描述出差的时间、地点,即可自动完成机票和酒店的预订。



以及困扰无数职场人的会议室预订,需要和每一个参会人员沟通时间,然后在OA平台上逐个查看哪个会议室是空着的。有了AI助理后,只需要确认参会人员名单,就能根据大家的日程安排自动预定会议室和会议时间。

第三个是生产助理。

在生产制造环节,一个普遍问题是操作人员的不规范,常常需要人工指导监督,其实可以在AI的指导下,帮助生产人员明确生产流程的具体操作,严格遵循质量控制标准,保障生产过程的合规和高效。

相似的还有智能检修场景,在AI的辅助下按照正确的步骤进行故障排查,结合历史维修记录快速判断故障点,甚至是获得故障预测和解决方案,通过经验和知识的快速复用,提高设备的检修效率。

可以看到,钉钉专属AI一体机的落地场景并未局限在公文写作、表格生成等简单场景,深入到了销售、管理、研发、生产、维修等企业生产运作的每一个环节,而且在每一个环节都释放出了新的价值。

也就是说,曾经阻碍AI本地化部署的“不可能三角”,以“降维打击”的方式被消除了,并且迸发出了源源不断的新质生产力。

把视角再放大一些的话,诸如此类的合作远不止办公。

仅仅是在不久前举办的华为全联接大会2024上,华为就与科大讯飞、交通银行、钉钉、360在内的21家伙伴和客户,基于昇腾AI基础软硬件平台联合发布大模型推理行业解决方案,覆盖了互联网、金融、政府、政务、制造、媒资、交通等行业。

另一个不应该被忽略的信息点在于,在“开放、利他”的理念下,昇腾AI已累计培养3万多名原生开发贡献者,2000多家应用伙伴孵化了4000多个行业解决方案……言外之意,钉钉专属AI一体机等产品的想象空间远未触顶,将不断被赋予更多的能力和价值。

04.
写在最后

年初的时候就有不少人预言:2024年将是大模型推理元年。

回头来看,预言不仅得到了充分验证,还出现了此前未曾料到的“奇迹”。在钉钉专属AI一体机等产品的帮助下,AI打破了数据安全、成本、落地门槛高等重重阻力,让AI Agent在越来越多行业生了根、发了芽。

往期推荐


01

从“纸面算力”到“好用算力”,超聚变打通AI+“最后一公里”

02

千行万业的智能化转型,需要一场网络供给侧改革



主理人 | 张贺飞(Alter)


前媒体人、公关,现专职科技自媒体


钛媒体、36kr、创业邦、福布斯中国等专栏作者


转载、商务、开白以及读者交流,请联系个人微信「imhefei」

Alter聊科技 探究产业兴衰,专注商业解读。
评论
  •         温度传感器的精度受哪些因素影响,要先看所用的温度传感器输出哪种信号,不同信号输出的温度传感器影响精度的因素也不同。        现在常用的温度传感器输出信号有以下几种:电阻信号、电流信号、电压信号、数字信号等。以输出电阻信号的温度传感器为例,还细分为正温度系数温度传感器和负温度系数温度传感器,常用的铂电阻PT100/1000温度传感器就是正温度系数,就是说随着温度的升高,输出的电阻值会增大。对于输出
    锦正茂科技 2024-12-03 11:50 100浏览
  • 《高速PCB设计经验规则应用实践》+PCB绘制学习与验证读书首先看目录,我感兴趣的是这一节;作者在书中列举了一条经典规则,然后进行详细分析,通过公式推导图表列举说明了传统的这一规则是受到电容加工特点影响的,在使用了MLCC陶瓷电容后这一条规则已经不再实用了。图书还列举了高速PCB设计需要的专业工具和仿真软件,当然由于篇幅所限,只是介绍了一点点设计步骤;我最感兴趣的部分还是元件布局的经验规则,在这里列举如下:在这里,演示一下,我根据书本知识进行电机驱动的布局:这也算知行合一吧。对于布局书中有一句:
    wuyu2009 2024-11-30 20:30 120浏览
  • 最近几年,新能源汽车愈发受到消费者的青睐,其销量也是一路走高。据中汽协公布的数据显示,2024年10月,新能源汽车产销分别完成146.3万辆和143万辆,同比分别增长48%和49.6%。而结合各家新能源车企所公布的销量数据来看,比亚迪再度夺得了销冠宝座,其10月新能源汽车销量达到了502657辆,同比增长66.53%。众所周知,比亚迪是新能源汽车领域的重要参与者,其一举一动向来为外界所关注。日前,比亚迪汽车旗下品牌方程豹汽车推出了新车方程豹豹8,该款车型一上市就迅速吸引了消费者的目光,成为SUV
    刘旷 2024-12-02 09:32 111浏览
  • RDDI-DAP错误通常与调试接口相关,特别是在使用CMSIS-DAP协议进行嵌入式系统开发时。以下是一些可能的原因和解决方法: 1. 硬件连接问题:     检查调试器(如ST-Link)与目标板之间的连接是否牢固。     确保所有必要的引脚都已正确连接,没有松动或短路。 2. 电源问题:     确保目标板和调试器都有足够的电源供应。     检查电源电压是否符合目标板的规格要求。 3. 固件问题: &n
    丙丁先生 2024-12-01 17:37 99浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2024-12-02 10:40 120浏览
  • 遇到部分串口工具不支持1500000波特率,这时候就需要进行修改,本文以触觉智能RK3562开发板修改系统波特率为115200为例,介绍瑞芯微方案主板Linux修改系统串口波特率教程。温馨提示:瑞芯微方案主板/开发板串口波特率只支持115200或1500000。修改Loader打印波特率查看对应芯片的MINIALL.ini确定要修改的bin文件#查看对应芯片的MINIALL.ini cat rkbin/RKBOOT/RK3562MINIALL.ini修改uart baudrate参数修改以下目
    Industio_触觉智能 2024-12-03 11:28 71浏览
  • 当前,智能汽车产业迎来重大变局,随着人工智能、5G、大数据等新一代信息技术的迅猛发展,智能网联汽车正呈现强劲发展势头。11月26日,在2024紫光展锐全球合作伙伴大会汽车电子生态论坛上,紫光展锐与上汽海外出行联合发布搭载紫光展锐A7870的上汽海外MG量产车型,并发布A7710系列UWB数字钥匙解决方案平台,可应用于数字钥匙、活体检测、脚踢雷达、自动泊车等多种智能汽车场景。 联合发布量产车型,推动汽车智能化出海紫光展锐与上汽海外出行达成战略合作,联合发布搭载紫光展锐A7870的量产车型
    紫光展锐 2024-12-03 11:38 92浏览
  • 概述 说明(三)探讨的是比较器一般带有滞回(Hysteresis)功能,为了解决输入信号转换速率不够的问题。前文还提到,即便使能滞回(Hysteresis)功能,还是无法解决SiPM读出测试系统需要解决的问题。本文在说明(三)的基础上,继续探讨为SiPM读出测试系统寻求合适的模拟脉冲检出方案。前四代SiPM使用的高速比较器指标缺陷 由于前端模拟信号属于典型的指数脉冲,所以下降沿转换速率(Slew Rate)过慢,导致比较器检出出现不必要的问题。尽管比较器可以使能滞回(Hysteresis)模块功
    coyoo 2024-12-03 12:20 92浏览
  • 戴上XR眼镜去“追龙”是种什么体验?2024年11月30日,由上海自然博物馆(上海科技馆分馆)与三湘印象联合出品、三湘印象旗下观印象艺术发展有限公司(下简称“观印象”)承制的《又见恐龙》XR嘉年华在上海自然博物馆重磅开幕。该体验项目将于12月1日正式对公众开放,持续至2025年3月30日。双向奔赴,恐龙IP撞上元宇宙不久前,上海市经济和信息化委员会等部门联合印发了《上海市超高清视听产业发展行动方案》,特别提到“支持博物馆、主题乐园等场所推动超高清视听技术应用,丰富线下文旅消费体验”。作为上海自然
    电子与消费 2024-11-30 22:03 93浏览
  • 学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&
    youyeye 2024-11-30 14:30 78浏览
  • 作为优秀工程师的你,已身经百战、阅板无数!请先醒醒,新的项目来了,这是一个既要、又要、还要的产品需求,ARM核心板中一个处理器怎么能实现这么丰富的外围接口?踌躇之际,你偶阅此文。于是,“潘多拉”的魔盒打开了!没错,USB资源就是你打开新世界得钥匙,它能做哪些扩展呢?1.1  USB扩网口通用ARM处理器大多带两路网口,如果项目中有多路网路接口的需求,一般会选择在主板外部加交换机/路由器。当然,出于成本考虑,也可以将Switch芯片集成到ARM核心板或底板上,如KSZ9897、
    万象奥科 2024-12-03 10:24 61浏览
  • 11-29学习笔记11-29学习笔记习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-02 23:58 62浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦