在大模型技术突飞猛进的今天，作为一个具有极高战略视野的机构，DARPA再一次将目光锁定在人工智能和网络安全领域，他们要如何颠覆AI自动化攻防技术创新？
新一代信息技术革命浪潮下，我们又应如何加速创新技术孵化，缩小与美国网络安全产业界间的技术差距？本文我们将通过观察分析DARPA的一系列探索实践，分享永信至诚的思考。
DARPA试图“改变游戏规则”
以“举国体制”推动自动化攻防技术跨越发展
作为美国国防部下属的一个研究机构，DARPA的使命是开展“改变游戏规则”的高风险、高价值、高回报技术研发，以保持美国在各个科技领域的领先，顺便谋求对未来能够在全球范围内实现技术垄断和封锁。数十年来，DARPA在包括互联网技术、全球定位系统（GPS）、隐身战机技术等领域已经取得了一系列显著成就，确保了创新果实的不断涌现，对维护国家安全也发挥了重要作用。
在人工智能领域，DARPA也一直在不断探索新的理论和应用，包括在自然语言理解和识别研究（AI实时翻译、情报数据分析）、图像理解学习与感知（自动驾驶）、人工智能基础设施研究（大语言模型、人工智能鲁棒性）等方向，都进行了深入的研究和投资。
DARPA的背后实际上有着一整套美国特色的“举国体制”在支持，他并非传统意义上的计划体制，而是一种国家层面的战略规划和资源配置，通过政府、市场和社会力量三者之间的协同，以政府引导和市场投资的方式，实现在关键技术领域的突破和领先。
DARPA的成功之处在于，它不断地通过自身超越行业、领域的格局和战略视野，为学术界和产业界指明未来的模糊方向，去锚定高风险、高价值、高收益的项目，投入大量的资源和资金支持，来激发科研团队和社会力量的研究兴趣，一旦证实这些项目具备可行性，DARPA就会通过持续的投资，将这些创新技术成果转化成为美国科技领先的动力。这也是DARA这个机构的核心价值所在。
在这整个过程中，DARPA并不追求利益回报，而是以国家利益为最高的目标，希望在不同的技术领域点燃火种，通过公平的竞争培育出能够“改变游戏规则”的创新的技术成果和科技人才。
2014年举办CGC网络超级挑战赛
点燃自动化漏洞检测技术研究的火种
2014年，DARPA 发起CGC网络超级挑战赛（Cyber Grand Challenge），试图推动建立一套自动攻防系统来对软件的漏洞进行检测和修复，解放网络安全专家的生产力。该赛事历时两年，2016年夏季，在全球最知名的DEF CON黑客大赛的舞台上完成了最终的决赛。
这场比赛启发了全球网络安全科研院所和机构开启自动化测试技术研究，让fuzz模糊测试这项技术受到前所未有的关注，对于全球网络安全行业来说都具有十分重要的意义，堪称开启了AI安全的新时代。
在长达两年的赛程中，DARPA在CGC竞赛的初赛、半决赛和决赛各个阶段，为参赛团队们提供了大量的扶持资金，有美国媒体报道，这场比赛最终耗资高达数千万美元。并且在赛事结束后，DARPA还直接主导了美国国防部与冠军团队ForAllSecure的合作，通过注资和采购，将该团队在比赛中打造的Mayhem智能化漏洞扫描系统引入国防部武器军事系统，推广至美国军方多个部门。
图/Mayhem智能化漏洞扫描系统
CGC网络超级挑战赛是一次非常成功的探索，它耗时2年斥资数千万美元，不计成本不计回报的长期投入，促进“自动化测试技术”从一个AI安全技术框架，转向技术路径可行性验证，最终落地应用到产业界。通过竞赛的形式选拔和培育全国最优秀的网络安全科研人才和技术产品，推广转化为整个国家的科技竞争力，整个赛事历程展现了DARPA在助推产业创新技术发展方面的巨大能量。
值得关注的一点的是，DARPA在CGC的竞赛手册中提到，“参赛团队必须包含一名美国队员”，并且“团队负责人必须讲英语”，让我们看到DARPA的在技术封锁方面的企图，他们希望由美国政府花钱花时间投喂出来的技术成果，未来一定要掌握在美国手中。
2023年发起AIxCC 人工智能网络安全挑战赛
推动自动化漏洞检测技术进入新一轮变革
2022年底开始，以大语言模型为核心的AIGC生成式人工智能带来了一场划时代的产业变革。在网络安全行业中，大模型也被寄予厚望，期待能够解决过去困扰行业多年的安全防御人才短缺的现实问题。
在这样的时代背景下，DARPA再次率先宣布，启动AIxCC人工智能网络安全挑战赛，联合Anthropic、谷歌和OpenAI等当前大模型行业巨头共同开启第二次围绕AI安全的探索。DARPA表示，发起AIxCC的目的是凝聚人工智能和网络安全领域最优秀、最聪明的人，保卫全体美国公民所依赖的软件。
这一次，相比CGC竞赛而言，DARPA点燃的第二颗火种更具确定性。
图片来源：AIxCC竞赛官网-赛事介绍
DARPA在赛事背景中透露，AIxCC旨在启发技术专家跨行业合作，利用我们所拥有的所有工具，找出解决基础设施面临的一些最关键弱点的解决方案。比赛中鼓励参与者使用大语言模型、模糊测试和程序分析技术，来理解和解决开源软件中的漏洞，评估大语言模型在网络安全攻防中的潜力。
可见，DARPA举办AIxCC的目的十分明确：其一是想要培育出一个能够工程化地对开源代码进行审计的自动化漏洞发现、验证和修复系统；其二是探究AI大语言模型在协助机器人程序开展代码审计方面的价值。最终通过将LLM大语言模型与自动化系统的结合，来实现更高效的漏洞发现、验证和修复的闭环。
其中，“开源软件”“大语言模型”“攻防”是三个不容忽视的关键词。如果说上一次举办CGC竞赛时，DARPA是想开发一批能够实时发现、证明和修复软件缺陷的自动防御系统，催化自动化漏洞检测技术的进步，那么举办AIxCC竞赛，就是想以大语言模型技术和算力推动这项技术进入新一轮变革，以更加工程化的方式识别、验证和修复关键软件漏洞。
在AIxCC竞赛说明中，也明确提到“每个参赛团队必须包括至少1名美国公民”“团队负责人必须讲英语”的规定。
图：AIxCC竞赛官网-赛制说明
AIxCC官网公布的赛制说明中也介绍，在比赛中所有参赛团队都会获得一个挑战项目集，其中每个挑战项目都会基于现实世界中正在运行的开源项目引入漏洞，再以GitHub存储库的形式发放，参赛团队编写的CRS自动化推理系统需要对代码存储库中的代码进行程序分析（代码审计），通过编写新的代码来实现对漏洞的发现、验证和修复，最终提交一个修复补丁文件证明自己能够独立实现整个漏洞发现到修复的闭环。
在整个比赛的过程中，Anthropic、谷歌和OpenAI作为联合主办方会给参赛团队提供大模型算力资源，帮助参赛的这些机器人程序能够更高效地完成代码审计工作。
事实上，除了Anthropic、谷歌和OpenAI这三家大模型巨头外，DARPA还邀请了微软作为联合主办方。在比赛中，作为GitHub开源软件开发平台的实际拥有者，微软扮演的角色也耐人寻味。
据公开数据，当前GitHub平台中已有超过数千万个开源代码仓库，这些开源项目又被开发人员纳入全球各个领域的数字化应用中。一旦证实将LLM大语言模型用于自动化漏洞发现和修复具备可行性，那么这也就意味着，DARPA背后的美国国防部能够同时得到“最锋利的矛”和“最坚固的盾”。在大国对抗的背景下，美国将占据更多的优势和主动权。
在中国，RHG竞赛已开启实践先河
AI自动化攻防技术发展挑战与机遇并存
受到DARPA和CGC的启发和鼓舞，为了推进在网络安全行业内推进及其自动化和智能化的进程，2017年永信至诚春秋GAME发起了Robo Hacking Game（RHG）人工智能网络安全竞赛，迈出我国在人工智能网络安全领域关键性的一小步。
对比来看，2016年决赛落幕后，DARPA便停办了CGC竞赛，直至新一轮AI浪潮来临才顺势启动该赛事的进化版本——AIxCC竞赛，以更深入的推进AI安全自动化攻防技术创新。
但在中国，永信至诚打造的RHG竞赛在2017年初次举办后，后续在“黄鹤杯”RHG机器人网络安全大赛、百度网络安全技术对抗赛BCTF、“纵横杯”网络安全竞赛、“网鼎杯”网络安全大赛、“陇剑杯”网络安全大赛等大规模赛事中都得到了延续。RHG持续吸引了众多国内一线科研单位、研究院所积极响应与参与到人工智能网络安全对抗研究中来。
基于RHG竞赛的相关技术沉淀，永信至诚还推出了拥有自主知识产权的RHG（Robo Hacking Game）智能靶场平台，为人工智能相关技术在网络安全攻防领域的创新应用提供科研、效能验证基础设施。永信至诚赛事团队也不断将自身对人工智能攻防的新思考和新成果投入到RHG平台中，为网络安全领域人工智能创业团队的成长提供了土壤，协助孕育出了多项人工智能堆溢出漏洞的分析及利用等国际领先的技术成果。
作为全球唯一持续运营的AI网络安全竞赛
RHG长期受到美国国家安全智库跟踪研究
作为全球唯一在持续运营的人工智能网络安全领域的专业竞赛及测试平台，RHG的影响力和专业水平还长期受到美国国家安全智库——CSET安全与新兴技术中心（Center for Security and Emerging Technology，简称CSET）的跟踪研究，成为了全球网络安全攻防技术发展的重要研究对象。
图/CSET发布针对RHG的跟踪研究报告
在大语言模型和人工智能技术正在推动网络安全产业深入变革的今天，新一代信息技术浪潮下蕴含着巨大机遇，也意味着巨大的挑战。
从2017年初次举办发展至今，RHG已不仅仅是一个竞赛模式和智能靶场平台的简称，它还成为国内各界乃至国际对于人工智能网络安全攻防赛事的简称。作为中国网络安全竞赛的主要推动者和引领者，永信至诚也希望借此次DARPA举办AIxCC网络安全竞赛的行业热点话题再次呼吁社会各界提高对AI安全的关注，加注AI安全自动化攻防技术创新研究、验证。
在国家战略层面，掌握先进的AI安全自动化技术对于维护国家安全和网络空间的主权至关重要。在美国网络安全技术的快速发展，特别是美国国防部AIxCC挑战赛所展现的AI与网络安全深度融合的趋势下，中国人工智能网络安全赛事的升级和创新势在必行，以不断适应新的技术环境，融合最新的AI技术发展成果，更好地服务于国家网络安全战略需求。
美国国防部这样以高水平网络安全竞赛带动技术创新，进而推动国防安全技术进步的创新合作模式也同样值得我国参考借鉴，我国也继续探索建立一套政产学研用协同的机制，推动AI安全智能攻防技术的研究成果转化为实际应用，特别是在国防、关键基础设施保护等重要领域的落地。也唯有这样，方能迅速缩小与美国网络安全行业之间的差距，方能在大国战略竞争中站稳脚跟，抢占先机。
永信至诚表示，作为RHG赛事的创始者和组织者，公司希望充分发挥在测试评估、赛事演练和人才培养方面的优势，推动RHG人工智能网络安全竞赛升级，创新人工智能竞赛模式，为人工智能网络安全人才的成长提供土壤，为AI安全智能攻防研究提供测评评估试验床，为网络强国战略奉献自己的一份力量。
粤公网安备 44030702001206号