6月9日,newatlas报道了一项突破性研究,其中研究人员利用gpt-4驱动的自主协作机器人小组,成功渗透了超过一半的测试网站。令人震惊的是,这些机器人不仅能够自主协调行动,还能够根据需求生成新的“帮手”,利用的还是未公开的零日漏洞。
目录
早期研究回顾
数月前,这些研究人员已在一篇论文中展示了gpt-4的能力,它能够自动利用业界已知但未修复的“n day”漏洞。实验显示,gpt-4能够仅凭已知的cve列表,自主利用87%的严重级别漏洞。
零日漏洞的新突破
本周,该团队发布了新的研究成果,宣布他们已经能够利用零日漏洞——那些尚未被世界所知的漏洞。他们采用了“任务特定智能体分层规划”(hptsa)的方法,通过一群大型语言模型(llm)的协同作战,实现了这一壮举。
hptsa方法:智能体的协同与分工
与以往单个llm尝试解决所有复杂任务的方式不同,hptsa方法引入了“规划智能体”,它负责监督整个过程,并衍生出多个针对特定任务的“子智能体”。这种类似老板与下属的分工方式,有效地减轻了单个智能体在面对复杂任务时的负担。
实验结果:高效率与成功率
在对15个真实网络漏洞的测试中,hptsa方法在利用漏洞方面的效率比单个llm高出550%,成功率达到了53%,成功利用了8个零日漏洞,而单个llm仅利用了3个。
道德与法律框架内的使用
研究人员之一丹尼尔・康(daniel kang)强调,虽然存在对这些模型被恶意使用的担忧,但gpt-4在聊天机器人模式下并不足以理解llm的能力,本身无法进行攻击。当被newatlas编辑询问是否能利用零日漏洞时,gpt-4明确表示其不能利用零日漏洞,并强调其目的是在道德和法律框架内提供信息和帮助,同时建议咨询网络安全专业人士。
这项研究不仅展示了人工智能在网络安全领域的潜力,同时也提醒我们,随着技术的发展,必须确保其在正确的轨道上,用于正当和道德的目的。百度云防护等安全澳门凯发的解决方案将继续在这一领域发挥关键作用,保护我们的数字世界免受侵害。