AI浪潮下的大模型安全:2B和2C各有侧重点

科创板日报 2024-02-29 20:18

在2024上海网络安全产业创新大会,专家们指出了2C和2B场景在安全方面的不同关注点——在2C场景中,用户体验和隐私保护是核心,而在2B场景中,商业机密和数据安全则更为关键。


作者 | 朱凌

当前,以大语言模型为代表的AI技术应用正在渗透至千行百业,成为推动各行各业转型升级的新引擎。然而,随着这些技术的应用日益广泛,大模型的安全性问题也日益凸显。大模型之于网络安全行业,将带来哪些机遇?围绕大模型的安全问题,行业将给出何种解法?
《科创板日报》记者昨日来到2024上海网络安全产业创新大会,听到了来自中国信通院华东分院、蚂蚁集团、商汤、翼方健数、上海交通大学网络安全学院等产学研界专家对此的答案。

技术与安全的平衡

《科创板日报》记者注意到,在圆桌讨论中,专家们都强调了在利用大模型技术的同时,必须平衡其带来的便利与潜在的安全风险。
中国信通院华东分院院长廖运发提到,大模型的发展为网络安全带来了新的机遇,尤其是在内容安全、数据隐私保护、运行可靠性等方面。然而,大模型的安全性问题也不容忽视,包括基础设施安全、数据隐私泄露、运行稳定性等。
例如,大模型生成的内容可能涉及意识形态问题,需要进行网络备案和监管。此外,大模型的运行可靠性、稳定性和可解释性也是当前研究的重点。大模型在信息通信和安全领域的应用,需要重点关注基础设施的安全问题,以及数据隐私的保护。
上海交通大学网络安全学院教授王士林从学术角度分析了大模型与网络安全的关系,提出了大模型可能带来的新威胁,如内容安全问题、功能安全问题、数据安全和部署问题等。他从学术研究的角度,分析了AI和网络空间安全之间的关系。他强调,大模型的生成能力增强,使得内容安全监测变得复杂。他强调,大模型的生成能力增强,如何监测和评估生成内容的安全性,是当前研究的重点。
商汤集团信息安全委员会负责人吴友胜从安全从业者的角度,提出大模型在安全领域的积极影响,如大模型在提升安全自动化处理能力方面的积极作用。但在实际落地过程中,仍需面对数据规模、质量、标签化的要求,以及算力和算法的挑战。如黑客利用AI技术进行攻击的自动化等。
翼方健数技术总监孙维东总监则表示,大模型在数据安全和网络安全方面是新机遇和挑战并存。他强调了算力基础设施和模型安全防护的重要性,国产化硬件的投入将为大模型提供更可信和安全的基础设施。

2C与2B场景的安全差异

经过近一年半时间的发展,如今,大模型的话题,正从底层技术的研发走向如何更好的落地应用。在讨论大模型在不同场景下的应用时,本次会议中,专家们指出了2C和2B场景在安全方面的不同关注点——在2C场景中,用户体验和隐私保护是核心,而在2B场景中,商业机密和数据安全则更为关键。
廖运发强调了在2B场景中,需要特别关注标准适配问题,以及大模型本身可能引起的商业机密和客户数据利益问题。
王士林从用户角度提出了对大模型性能和实时性的要求,以及对内容安全的关注。大模型在2B场景中的应用需要确保没有漏洞和恶意后门,而在2C场景中,则需要关注用户隐私数据的合规处理。
吴友胜则从产品部署的角度,分析了2B和2C产品在安全职责、效率要求和用户关注点上的差异。他强调,大模型在2B端的部署通常是私有化的,这在一定程度上降低了安全风险。然而,大模型的二次开发过程可能会带来新的安全职责变化。
孙维东持同样观点,他从服务客户的过程中距离,B端用户在尝试使用大模型数据赋能时,首先关注的是安全问题,包括合规性和商业机密的保护。而C端用户,尤其是个人开发者和设计师,对知识产权的保护和平台的安全性有着迫切的需求。
在与会专家看来,大模型安全是一个多维度的问题,需要从技术、法规、标准等多个角度进行综合防控。在技术层面,需要开发更先进的监测和评估工具,以确保大模型的安全性。在法规和标准层面,需要制定相应的规范,指导大模型的安全开发和应用。未来,大模型安全将继续是网络安全领域的重要议题。


推荐阅读






科创板日报 国内首个专注科创板、创投及TMT等领域的新锐媒体,致力于打造领先、专业、权威的科创信息服务平台。
评论 (0)
  • 隔离驱动芯片作为电子领域中的关键组件,在电力电子、新能源、汽车电子等领域中发挥着至关重要的作用。然而,长期以来,我国在隔离驱动芯片领域依赖进口,面临着技术受限、供应不稳定等问题。因此,实现隔离驱动芯片的国产化成为我国电子产业发展的重要战略之一。隔离驱动芯片国产化的进展与成果近年来,我国政府和企业加大了对隔离驱动芯片国产化的支持和投入。通过引进国外先进技术、加强技术攻关和人才培养,我国隔离驱动芯片产业取得了显著进展。一些企业已经能够自主设计、生产高性能、高可靠性的隔离驱动芯片,填补了国内相关领域的
    克里雅半导体科技 2024-04-12 16:37 46浏览
  • 近日,一场启迪未来智慧之“光”的深度探访之旅,在德国雷根斯堡开启。来自上海照明电器协会、上海市照明学会照明设计专业委员会,以及江苏省照明电器协会的资深照明专业人士组成的考察团,到访艾迈斯欧司朗德国雷根斯堡工厂。此行将通过参观学习全球照明行业翘楚——艾迈斯欧司朗的前沿技术和国际领先的生产经验,扩宽对照明未来发展趋势的认知疆界,进一步提升中国照明行业的整体技术水平和国际市场竞争力。图:上海照明电器协会、上海市照明学会照明设计专业委员会、江苏省照明电器协会成员探访艾迈斯欧司朗集团德国雷根斯堡工厂01全
    艾迈斯欧司朗 2024-04-12 15:00 13浏览
  • 光电耦合器是一种将光学信号转换为电信号,或将电信号转换为光学信号的器件,广泛应用于通信、医疗、工业控制等领域。其制造工艺的精湛程度直接影响到器件的性能和可靠性。光电耦合器的制造工艺流程光电耦合器的制造工艺主要包括材料选择、器件设计、加工制造和测试等环节。首先是选择高品质的光电材料,如硅、玻璃等,以确保器件具有良好的光学特性和稳定性。其次是根据设计要求,进行器件结构设计和光学参数计算,确定器件的尺寸、形状和光学特性。然后是采用先进的加工技术,如激光切割、精密磨削等,进行器件的加工制造,确保器件的尺
    克里雅半导体科技 2024-04-12 16:38 54浏览
  • 用于手术导航的电磁传感器电磁传感器可有效满足您的感应、电阻、灵敏度和定位目标,同时无缝集成到介入设备中。微型线圈产品应用领域:扩音器、无线射频识别技术、 感应式传感器、 微型电机、医疗成像 、 微型机器人 、电光学传感器 、血液分析仪、核磁共振仪、呼吸机 、心血管系统装置、人工智能AI医疗、感应式传感器助听器应用:使用可承受焊接的中介粗线将微线圈连接到PCB上的操作系统医疗导航应用:CT、PET 和 MRI 
    中国Amisco有限公司 2024-04-12 11:58 29浏览
  • 科技云报道原创。春节期间,OpenAI的最新技术成果——文生视频模型Sora惊艳登场,令海内外的AI从业者、投资人彻夜难眠。Sora大模型可以让用户仅通过输入一个句子,就可以生成与好莱坞画面相媲美的视频,且长度最多可达1分钟,让人深感震撼。对于这颗“深水炸弹”,众说纷纭。Open AI自称Sora是“世界模拟器”。有网友惊呼“现实不存在了”。马斯克直言:人类认赌服输。美国科技博主马克斯·布朗利表示,Sora或将拉响影视行业失业警报。毋庸置疑,Sora极具破坏性创新的潜力,必将重塑现有的产业格局如
    科技云报到 2024-04-12 15:30 37浏览
  •        2024年3月22日,期待已久的ISO 11898-2:2024版本横空出世,标志着新一代CAN总线的时代即将到来(ISO/FDIS 11898-1:2023也处于最终投票阶段)。搭载着2048Byte的CANXL列车已蓄势待发,决心突破10M的高速通道。Autosar、英飞凌、ST、Vector和NXP等行业风向标早已准备迎接CANXL高速通道给整车SoA架构带来新的变革。1、第三代CAN总线(CANXL)    &nb
    经纬恒润 2024-04-12 16:17 28浏览
  • 科技云报道原创。从540亿元到1286亿元——这是中国通信标准化协会大数据技术标准推进委员会针对中国数据库行业给出的一份预测报告。报告指出,未来五年,中国数据库行业将从百亿级市场跨越成为千亿级市场。最近两年,中国的数据库行业似乎也在迎来一轮新热潮,而这种热潮是伴随着5G、云计算、大数据和AI等多种技术共同出现的。在企业数字化加速到来的同时,企业对于各类数据分析的需求也被越发放到台前。种种变革之下,数据库行业是否将迎来新的发展?数据库发展出现新趋势如果将整个软件产业体系比喻成一棵参天大树,数据库则
    科技云报到 2024-04-12 16:44 56浏览
  • 光耦合器也称为光隔离器,是许多电子电路中的重要组件,可在输入和输出信号之间提供隔离。它们在各种应用中确保安全、降低噪声和防止接地环路方面发挥着至关重要的作用。在本文中,我们将深入研究光耦合器的基础知识,探讨它们的工作原理及其输入和输出之间的关系。了解光耦合器:光耦合器由一个发光二极管(LED)组成,该发光二极管在单个封装内与光电探测器(通常是光电晶体管或光电二极管)进行光学耦合。LED所在的输入侧被称为“初级”或“输入”侧,而包含光电探测器的输出侧被称为“次级”或“输出”侧。光耦合器输入和输出隔
    腾恩科技-彭工 2024-04-12 16:13 35浏览
  • 前言BIM(Building Information Modeling,建筑信息建模)于2011年左右出现,是建筑行业的一个重大突破。如今,该项技术已经成熟,除施工阶段以外,还可以在其他阶段使用。那么,如何将BMI集成到SCADA系统中?BIM—连接建筑设计与建筑维护的纽带之前,项目经理们使用AutoCAD制作简单的图纸。BIM具有三个特定功能,超越了简单的图纸设计:使用的对象易于复制3D建模取代2D图纸对象可以组合(例如,门可以嵌入墙体)BIM的首要目标是完善和深化设计阶段。更好的设计意味着施
    宏集科技 2024-04-12 15:58 33浏览
  • 科技云报道原创。在过去一两年里,以GPT和Diffusion model为代表的大语言模型和生成式AI,将人们对AI的期待推向了一个新高峰,并吸引了千行百业尝试在业务中利用大模型。国内各家大厂在大模型领域展开了激烈的军备竞赛,如:文心大模型、通义千问、混元大模型、盘古大模型等等,这些超大规模的模型训练参数都在千亿以上,有的甚至超过万亿级。即便训练一次千亿参数量模型的成本可能就高达数百万美元,但大厂们依然拼尽全力,除此之外也有很多行业企业希望拥有自己的专属大模型。对于企业来说,要想在大模型的竞争中
    科技云报到 2024-04-12 15:45 26浏览
  • 4月11日下午,华为鸿蒙生态春季沟通会如期举行,早前官宣海报显示,本次发布会的重点在智界 S7 和 MateBook 新品。而智界S7是华为与奇瑞采用鸿蒙智行模式合作推出的首款轿车,于2023年11月发布。时隔半年,再次“回炉”,华为为什么要重新发布智界S7?真正的重点来了,华为真正发布的是智界S7首发搭载的华为视觉智驾,即不含激光雷达的视觉方案。发布会上,余承东称,智界S7搭载的华为视觉智驾,实车表现出的性能,已经超过“视觉鼻祖”特斯拉,表露出对华为视觉智驾方案的信心。抛弃激光雷达?华为视觉智
    传感器专家网 2024-04-12 09:34 23浏览
  • 科技云报道原创。在中国金融业数字化转型的历史长卷中,过去十年无疑是一部磅礴的史诗。2017年,南京银行第一次将传统线下金融业务搬到了线上。那一年,它的互联网金融信贷业务实现了过去10年的业务总额。2021年,富滇银行通过数字化转型,将整体业务全面线上化,再造了一个“线上富滇”。那一年,它的整体业务实现了过去7年首次超过两位数的增长。一个个鲜活的案例,见证了中国金融业从互联网化迈向全面数字化的进程,而云计算技术的引入成为了这一进程中的关键驱动力。近些年来,金融机构通过“上云”,使得IaaS层基础设
    科技云报到 2024-04-12 16:16 44浏览
  • 数字隔离器是电子系统中,数字信号和模拟信号进行传递时,使其且具有很高的电阻隔离特性,以实现电子系统与用户之间的隔离的一种芯片。设计人员之所以引入隔离,是为了满足安全法规或者降低接地环路的噪声等。虽然光耦合器无疑可以有效地实现其目的,但进一步探索隔离技术可能会推出更符合您的应用需求的解决方案,与优雅和独创性产生共鸣。电流隔离:目的和方法电流隔离是确保电子系统安全、可靠性和效率的基石。它的目的是防止不需要的电流和电压在互连电路之间通过,从而防止潜在危险和信号失真。传统上,利用变压器耦合、电容器耦合和
    腾恩科技-彭工 2024-04-12 16:11 39浏览
  • 在汽车工业的照明领域,梅赛德斯-奔驰一直是创新的先锋。其最新的ABD矩阵大灯技术方案,不仅体现了品牌对安全和舒适驾驶体验的不懈追求,更是智能照明系统发展的一个里程碑。本文将详细介绍这一技术的构成、工作原理及其带来的益处。ABD矩阵大灯技术,全称为Adaptive Beam Dynamics,是一种高度先进的前照灯系统。与传统的汽车照明相比,它能够提供更为精准和灵活的照明效果。核心技术包括了智能化的传感器阵列、精密的光学组件以及复杂的算法控制单元。该技术的核心在于它的自适应能力。通过集成在车辆前方
    lauguo2013 2024-04-12 15:35 28浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦