聚热点 juredian

ChatGPT爆发,AI安全得道

采写/陈纪英

激烈的ChatGPT“大辩论”开场了。

正方主辩是微软创始人比尔·盖茨。

盖茨可能是ChatGPT的“头号铁粉”,他的表白热情滚烫,“这是我一生中见到的两项最具革命性的技术之一”。

不止盖茨,正方辩队可谓大佬云集,英伟达创始人黄仁勋高呼,“我们正处于AI的iPhone时刻”,阿里董事会主席兼CEO张勇坚信,“所有行业都值得用大模型重做一遍。”

反方“主辩”则是刚刚离任的谷歌AI教父Hinton。他忧心忡忡担心AI风险,甚至后悔曾经主导研发工作,“AI一旦产生自我动机,很有可能就会失控”。

作为人工智能领域的绝对权威,盖茨的看好与Hinton的恐惧,并无对错之分,而是ChatGPT“硬币”的一体两面。

连Hinton本人也承认,即便ChatGPT存在风险,但一厢情愿“叫停”是天真的——技术进化势不可挡。

既然人类与AI共存是必然宿命,把握好“应用”和“管理”、“进化”和”失控“的唯一可选项,就是师夷长技以制夷——AI安全的大爆发,伴随着AI大繁荣,将会如约而至。

AIGC大爆发,AI安全新机遇

ChatGPT引爆之后,全球大厂集体入局,而其前景也相当广阔。

而据业界预估,全球有超过10亿潜在用户可能使用类ChatGPT技术,有望带来超2000亿美元的年营收规模。

红利汹涌而至,风险也如影随形,AI时代的安全挑战,成为了2023西湖论剑·数字安全大会的主要议题之一。

作为上述会议承办方的安恒信息,其董事长范渊断定,ChatGPT本身就有一定安全风险,“AI机器人,其功能及逻辑极为复杂,虽然其内部设置了大量的安全对抗机制,但越是复杂的逻辑越有可能被绕过。在未来,如果ChatGPT大量应用,必然会出现逻辑绕过,让AI机器人成为攻击渠道和手段。”

长期坚守在安全一线的安恒信息启鉴实验室主任安通鉴,也在西湖论剑论坛上总结了AI大爆发带来的安全隐患。

第一,类ChatGPT等AI大模型的涌现,大幅降低攻击成本。比如用AI大模型批量生产木马,批量发布钓鱼邮件等等。

其二,AI大模型可以帮助攻击者快速甄别安全漏洞,找到防护薄弱之处,提升攻击的精准性和成功率。

其三,在数据调用过程中,可能会导致数据泄密、隐私泄露等。

ChatGPT用户已经成为了首批受害者。据BBC报道,今年3月底,ChatGPT出现了严重技术漏洞,部分用户搜索记录被爆泄漏。随后,OpenAI首席执行官Sam Altman证实了这一报道,“感觉十分糟糕”。

此外,AI系统面临着被注入恶意发送的伪造数据、以破坏神经网络功能的风险。

也正是看到了AIGC(生成式AI)大爆发带来的安全隐患,如今,全球多个国家相继出台了监管措施。

今年4月,美国商务部公开征求意见,探讨存在潜在风险的新人工智能模型发布前是否应该通过认证程序。

而加拿大联邦隐私监管机构已经出手,对OpenAI展开调查,追责该公司涉嫌“未经同意收集、使用和披露个人信息”。

就在同期,4月11日,中国网信办也发布了《生成式人工智能服务管理办法(征求意见稿)》,强调了安全评估和算法备案的前提性和必要性;表态要确保数据安全和个人信息保护合规,尤其是隐私保护;夯实了违规责任的处罚措施,包含追究刑事责任。

无论是业界共识,还是监管趋势,都指向了同一方向——强化AI监管防护是大势所趋,发展AIGC的前提,是必须谨守安全底线。而防护需求的涌现,也提前预定了AI安全行业未来的大爆发。

另一方面,类ChatGPT技术,也能为安全防护行业所用。

在这一领域,出现了两类玩家,一类是微软等通用型巨头,其并不专注安全领域,而是尝试把类ChatGPT能力在多个领域落地;另一类则是安全赛道的专业玩家,如中国安全赛道头部公司安恒信息

3 月 28 日,微软正式推出 Microsoft Security Copilot。这是第一款让安全人员能够以 AI 速度和规模做出响应的安全产品。

而安恒信息也已经着手布局。范渊对AI安全的前景,就相当乐观,“AI+安全的大幕才刚刚拉开,未来还有更大的可能性”。

AI为盾,安全反攻

在AIGC大爆发的前夜,发展与监管并举,进化和安全并重,已成各国共识。

平台已经主动戴上枷锁,4 月 6 日,OpenAI 发表博文《Our approach to AI safety》,回应外界对其的安全担忧。

但仅靠OpenAI一己之力远远不够,类ChatGPT技术,可能关涉到数10亿人的数据安全问题,而且,安全保护需从概念生成阶段即融入到产品之中,并贯穿全生命周期。

OpenAI作为平台方,也只能在某一环节发力,更多专业安全公司的躬身入局,必不可少,这既是其机遇,也是其职责。

解决新问题,不能用旧思路,AI时代的安全防护技术路径和战略布局,也必须与时俱进。

范渊用《富春山居图》打了个比方,倡导建立高远、平远、深远的数字安全观。其中,高度跟系统化有关,涵盖顶层设计;广度跟多跨、贯通有关;深度则与场景化、智能化有关,通过结果导向实现闭环。

以此为思路,安恒信息也交出了AI安全的答卷。

在深度上,以AI为器,以场景为矛,实现智能化防控,构建安全盾牌,是安恒信息的战略自觉,“让智能更安全,让安全更智能”。

目前,安恒信息已将类ChatGPT的AI算法和智能数据分类分级、智能生成检测规则、智能告警处置分析、智能客服问答系统、智能钓鱼邮件分析、智能加密流量检测等多个场景进行结合,推进研究并逐步落地到产品中。

类ChatGPT这样技术的应用,可以给自动化生成网络安全工具,带来百倍效率的提升;基于强化学习的人工智能模型,已经在安恒信息AiSort数据安全分级产品中部署应用,大幅提高数据梳理的工作效率。

AI会成为水电煤一般的基础设施,而安全符合最低水位理论,任一环节的短板,都会拉低整体水位,因此,与之对应,AI时代的安全防护,也应该构建全链路、全周期的安全闭环。

作为技术链路完善、产品丰富多元的综合专业云厂商,安恒信息的解法是,通过系统化的顶层设计,高处布局大处着眼,同时深入场景,“看山不是山,看水不是水”,基于“云+网+数+用+端”的一体协同,联手生态伙伴,实现三个层面的可信可控——全栈安全全栈可信的基础设施、软件安全和软件供应链安全、可信机密计算的软硬件环境,最终打造一体化无死角全链路的安全防护网络。

刚刚启用的“天穹”安全运营中心,就是基于上述战略思路,提供全天候、全场景、全过程、全闭环的安全运营保障服务,护航杭州亚运会。

再以数据安全为例,安恒数盾的产品和服务,覆盖了复杂数据应用的全生命周期、全链路数据安全,形成了较强的核心竞争力,也推动其数据安全产品2022年营业收入增速超100%。

未来,AI会成为各行各业的底层能力和必选应用,对于安全行业来说,既具备AI安全的底层通用能力,又深入一线了解行业的know-how,提供行业化甚至定制化的安全解决方案,成为了必选项。

安恒信息的军团战略,就呼应了这一趋势。

2022年,安恒信息对市场进行整合升级,成立运营商、公安、金融、网信、大数据局五大行业军团,对各细分行业进行垂直管理,实现公司内部跨多部门协作,充分调动公司资源,端到端解决行业客户的共性需求,2023年,安恒信息将增设交通军团、能源军团,以此提升服务的广度和外延,护航多元化高质量确定性增长。

以交通领域为例,增速迅猛的车联网,成为安恒信息颇为看重的赛道。2022年,中国新能源汽车销售达到688.7万辆,同比增长93.4%,连续8年保持全球第一。同期,提前卡位的安恒信息车联网安全产品则完成关键节点交付,实现百万级业务收入。

在西湖论剑·车联网安全论坛上,安恒信息首次正式发布车联网安全运营中心平台,以“全资产安全监管,多方位业务运营”为起点,描绘新增长曲线。

综上,安恒信息的这份AI安全答卷,顶层设计有高度,AI创新有深度,军团战略有广度,卡位风口有鲜度。

称重AI安全概念股

随着ChatGPT的光明前景已成共识,ChatGPT概念股市值节节攀升,AI安全股如安恒信息等,也多次涨停,但市值终归要以价值为锚点,到底如何“称重”AI安全概念股?

从增长机会来看,AIGC的大繁荣,同步带来了AI安全行业大爆发的确定性机会。

根据全球移动通信系统协会(GSMA)的预测,2025年全球AI安全软件的市场规模将达到1218亿美元,自2020年起的复合年增长率为31.9%。

而中国市场同样具有高增长,中航证券在其研报中断言,“生成式AI快速发展带来更多潜在安全威胁,加强监管是大势所趋。网信办发布生成式AI监管意见稿,中国AI安全市场迎来发展新契机。”

不过,在AI安全大爆发的确定性前景中,红利不会普惠每一个玩家,而是结构性分配,已经布局卡位AI安全的头部企业,将成为最大的获益者。

安恒信息就是其一,今年Q1,其营收同比增速达到四成以上,已有多家券商给予其买入、增持等看多评级。

国盛证券在其研报中预测,安恒信息2023年-2025年的年营收,同比增长有望分别达到35.7%、30.6%、26.9%。国元证券对安恒信息营收增速的预测,也在类似区间。

其二,AIGC概念股估值高企,AI安全如影随形,两者估值逻辑具备一致性,估值、市值水涨船高。

根据美国科技媒体TechCrunch的报道,因推出首个语言大模型ChatGPT而爆红的美国人工智能初创公司OpenAI,估值再度大幅提升, 4月底已完成103亿美元融资,投后估值达到270亿~290亿美元。

奇绩创坛创始人兼CEO陆奇甚至预测,OpenAI的未来市值有望碾压谷歌,成为全球首家超十万亿美元市值的企业。

受益于资本市场高看AIGC类公司,AI安全股也将在资本市场迎来价值重估,因此,今年以来,AI安全概念股多次触及涨停并不意外——表面是为AI安全概念股买单,其实是在为AI的确定性前景买单。

AI技术的大爆发,除了帮助安全行业拓展新的营收变现机会外,还能帮助安全行业降本增效,有利于改善公司的财务表现。

比如,在安全行业,数据分类分级是数据治理和数据安全治理的相交点,也是数据资产的起步线、数据安全的基准线、主体责任的推进线,涉及到十几万字段到几十万字段的数据治理场景,仅靠人力会让安全公司不堪重负。

在智能化加持下,安恒信息利用自然语言模型通过迁移学习进行训练,快速适配行业特性,从而实现信息整合自动标注相似字段进行强化学习,对不同行业数据分类分级,新行业效率提升5倍以上,已积累行业效率提升10倍到20倍以上。

充分利用AI技术,可以助力安全公司降本增效,提升利润空间。

安恒信息高级副总裁、首席安全官袁明坤对此颇有心得,“提高安全能力,同时也要降低人的成本,必须同步进行“,安全产品自动化、智能化水平的提升,可以带来人力的解放,提升终端安全产品的普惠性,帮助安全企业和其客户降本增效。

这在安恒信息的财报中,可以管窥一斑,2022年,公司研发费用、 销售费用及管理费用增速分别为 20.57%、34.20%和 15.41%,对比 2021 年在增速上有明显下降,控费成效逐渐显现,营收却保持增长。

范渊也乐观表态,“从今年开始,我觉得我们很快会看到这种利润模型的回归,因为伴随着数字安全产业的增量,伴随着我们过去的储备,伴随着数字中国的开启,我觉得我们还是会更持续、健康、高质量地发展。”

眼下,正是AIGC大繁荣的中场,也是AI安全大爆发的前夜,谁先入场,谁往往能占据主场,谁能看到终局,谁往往能左右大局。

本站资源来自互联网,仅供学习,如有侵权,请通知删除,敬请谅解!
搜索建议:得道  得道词条  爆发  爆发词条  ChatGPT  ChatGPT词条  安全  安全词条  
热议

 我是一阵风作文500字

我是一阵风作文500字我是一阵风,随着四季的脚步流动。时而温柔,时而迅猛。春天到了,我轻轻地抚着人们的脸,给他们带来一首首奇妙而幽雅的催眠曲。看着人们倦困但又舒...(展开)