“AI大模型将开启新一轮的‘攻强守弱’，大模型高效泛化内容生成的特点，会让黑客以更低的门槛和成本发动更密集的攻击；防守方需要更缜密的逻辑关联，更精准的溯源能力。在新技术的实践落地过程中，成本效率将会经历更严峻的考验周期。”
在日前举行的2023腾讯全球数字生态大会上，腾讯集团副总裁、腾讯安全总裁丁珂就对AI大模型带给产业互联网的安全挑战做出了提醒。
无独有偶，在2023外滩大会上，中国科学院院士何积丰也指出，目前AI安全的工作，集中在发现问题，但是还没有解决问题的全部答案。
如今，AI大模型席卷全球，为各行业带来颠覆式创新机遇的同时，也打开了网络攻击的潘多拉魔盒。近日，一份报告指出，利用生成式AI制作的恶意软件增长了约700%，网络钓鱼邮件增长了约135%。在丁珂看来，面对AI大模型引发的全新安全挑战，传统的安全工具、经验、策略将失去效力，企业亟须重建适应智能化时代的安全体系，打造更灵活、弹性、可扩展的数字安全免疫能力。
一直以来，在安全领域，攻击方和防守方就存在天然的不对等关系。而AI大模型的广泛应用，更是开启了新一轮的攻防战。
从攻击角度来看，攻击方利用AI技术大幅降低攻击成本和门槛之后，会大幅提升攻击的频次和密度。“在大模型加持下，黑客会让攻防变成‘即时战略’的对抗，企业的反应时间窗口将被迫缩短至小时级或者分钟级。”丁珂表示。
不容乐观的是，大部分企业的安全建设仍停留在“头疼医头、脚疼医脚”的传统搭烟囱阶段。《2023企业安全建设水平抽样调研报告》显示，在安全预算投入上，超过70%的企业低于基准线，甚至还有超过10%的企业，安全投入低于1%，对攻击事件“不设防”。
而这一现象的根本原因在于，大部分企业对安全价值认知的长期错位，他们认为安全投入就是成本，而且难以量化价值。
面对AI大模型时代快速扩大的安全风险，企业传统的安全范式亟待重建。“企业需要跳出‘防黑防鬼’的被动防御窠臼，聚焦业务和数据两个核心价值，构建内生数字免疫力。”腾讯安全策略发展中心总经理吕一平表示，“就像是对抗多种病毒，最优选择永远不是打抗生素，而是建立强壮的体魄和免疫力。”
据悉，今年上半年，腾讯安全联合IDC发布的“数字安全免疫力”模型也提出，企业需要重建安全价值原点，将企业核心业务与企业数据资产作为所有安全的防御目标，设置防御纵深。
企业摸清安全建设水平，就能做好安全吗？答案并不肯定。在丁珂看来，AI大模型时代，外部技术和攻击瞬息万变，如果外部因素一有变化，就要重新构建一整个模块的安全体系来匹配，从成本和效果考量这都是不合格的，企业需要打造一套具有弹性、自适应、可扩展的数字安全免疫系统。
据介绍，腾讯安全“数字安全免疫力”模型框架，把复杂的安全体系抽象成了一个洋葱模型，围绕企业的数据和业务从内到外建立3个层次6大模块的安全体系。企业可以通过自评工具，摸清自身安全建设水平及不足，并参考同行业建立标尺快速构建安全免疫力。
而在何积丰院士看来，在面对AI大模型带来的安全问题，无论企业还是平台，在解决思路上也要有所转变。“为了应对这些问题，我们需要大模型对齐技术。”何积丰院士指出，“对齐（alignment）”是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。“如果把人工智能看作西游记里的孙悟空，‘对齐’就是唐僧的紧箍咒。有了紧箍咒，就可以保证技术不会任意使用能力胡作非为。”在何积丰院士看来，不仅智能系统需要向人类价值观对齐，人类的训练方法也要向价值观对齐。
从各个平台的通用大模型的百花齐放，再到如今行业大模型的应用落地，AI大模型行业可以说已经站在了风口之上，但是发展路上绝非一帆风顺。正如腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生所说，“在数据爆炸的时代，安全已经成为企业与开发者必须要翻越的山峰。”而产业的发展，需要各界携手，一起打造更加主动和可持续的数字安全免疫力生态，从容应对新时代的安全挑战。
南方+记者 叶丹
【作者】 叶丹
南方产业观察
微信客服
