像Anthropic旗下Mythos这样的AI模型正以前所未有的速度发现软件漏洞这不仅加大了小型开发者面临的风险也让黑客能够更快地利用这些安全缺陷。Anthropic负责评估AI风险的Frontier Red Team团队负责人洛根·格雷厄姆和组员。图片来源HELYNN OSPINA FOR WSJ一个能导致防火墙、服务器和网络设备所用操作系统崩溃的软件漏洞在潜伏超过27年后终于在上个月被揪了出来。发现它的是Anthropic公司最新的AI模型Mythos。该模型的出现已让白宫、全球各地的银行高管和网络安全专业人士感到不安。欢迎来到“漏洞末日”(bug armageddon)时代。像Mythos这样的AI模型正以前所未有的速度发现旧版软件中的漏洞。虽然大多数代码问题可能并不严重但其庞大的数量放大了一种风险规模较小的软件开发商将被Mythos发现的这类漏洞报告彻底淹没。有了AI黑客能够比以往任何时候都更快速地利用这些漏洞。这个存在于1998年版OpenBSD操作系统中的漏洞只是Mythos上个月发现的数千个漏洞之一。Anthropic上周表示该公司正与大约50家科技公司和组织合作以发现并修复漏洞目前没有向公众发布Mythos的计划。“我们需要确保能够安全地发布但目前还不完全清楚如何才能满怀信心地做到这一点”Anthropic负责评估AI风险的Frontier Red Team团队负责人洛根·格雷厄姆Logan Graham说。据一位知情人士透露Anthropic的竞争对手OpenAI正在开展类似的活动向开发者提供其产品的安全专用版本以便他们在这些漏洞被犯罪分子发现之前修补系统。谷歌Google也表示正在为开发者筹备一项抢先体验计划。Mythos的出现已促使各大公司的技术员工紧急行动起来许多人在试图弄清这个新模型将如何颠覆网络安全格局又会让自家产品暴露在哪些新威胁之下。总部位于旧金山的AI会计自动化平台Numeric最近在其网络安全Slack频道中发起了一场关于风险的讨论。一位高管写道“嗯这下有意思了。”Numeric的联合创始人安东尼·阿尔韦纳斯Anthony Alvernaz表示企业面临的一些最大风险可能来自于对所谓“开源”工具的依赖。这些工具通常由志愿者协作开发他们可能没有资源来快速处理漏洞报告。他说这种基础设施是现代互联网运行的主要基石。“一家公司自己编写的代码几乎就像蛋糕的最顶层而下面是层层叠叠的开源软件”他说。当安全研究员尼尔斯·普罗沃斯Niels Provos听说Mythos发现了一个陈年的OpenBSD漏洞时他心想这会不会是自己27年前在密歇根大学University of Michigan攻读博士学位期间为OpenBSD编写代码时犯下的错误。他快速检查了一下证实了自己的猜想。“说实话我只觉得这事太搞笑了。因为那代码太老了”曾担任支付公司Stripe安全主管的普罗沃斯说。“谁知道上一次有真人看过它是什么时候。”安全研究员尼尔斯·普罗沃斯。图片来源THÉRÈSE PASQUESI普罗沃斯说人类要发现并利用这样一个漏洞通常需要无数小时的研究。大多数黑客甚至都不会去看普罗沃斯写的旧代码因为他们会想当然地认为这些代码早就被筛查过漏洞了。“以前只有少数人能做到这一点”他说。“现在有了这些工具开发出真正复杂的漏洞利用程序所需要的技能门槛已经大幅降低。”Anthropic称Mythos在两天内耗费了约2万美元的算力发现了这个漏洞以及其他几十个问题。Anthropic还称过去几周Mythos在编写可利用这些漏洞的代码方面也表现得更出色。如今大多数网络攻击并不涉及以前未被发现的漏洞即所谓的“零日漏洞”(zero days)。黑客更常利用已发现的漏洞或通过窃取登录凭证、使用社交工程技术等手段侵入公司。此外即便一台电脑被黑客入侵大多数公司也有其他策略来减缓网络攻击的影响。今年早些时候Anthropic的软件在火狐(Firefox)浏览器中发现了100多个漏洞它甚至能够编写代码在该浏览器的测试版本中利用其中一个漏洞。在现实世界中火狐浏览器有其他的安全防护措施可以阻止此类攻击这会给现实中的黑客增加更多工作量。过去几个月最新AI模型的网络安全能力已经让怀疑论者折服。他们开始担心修补海量且不断增加的漏洞将导致前所未有的后勤挑战——这相当于AI版的“千年虫”(Y2K)问题。当年为了修补那些无法识别2000年及以后日期的程序全球范围内展开了一场浩大的行动。“千年虫”的警告曾十分严峻但技术修复基本上奏效了。许多网络安全专业人士认为AI“漏洞末日”可能会以类似的方式上演但他们表示要成功修补各类软件中成千上万的漏洞将需要付出巨大的努力。包括国家网络总监肖恩·凯恩克罗斯(Sean Cairncross)在内的白宫高级官员正加紧应对Mythos等模型带来的威胁一方面排查政府系统的薄弱环节一方面协调私营部门的响应行动。投资者担心这些变化可能颠覆整个软件行业。上周网络安全公司股价应声下跌。帮助企业对漏洞报告进行分类的HackerOne称大多数公司在修补关键漏洞方面做得越来越好但AI正导致报告的漏洞数量激增修补各个漏洞所需的时间也越来越长。HackerOne称与去年同期相比漏洞提交量增加了76%而修复一个漏洞的平均时间从160天跃升至230天。企业还担心以前被忽视的技术产品现在可能成为攻击目标而且与科技巨头不同开发这些较不知名产品的公司或软件开发者可能没有资源来应对突如其来的大量修补工作。“攻击那些以前没人攻击的零散基础设施将变得容易得多”云计算公司Fly.io的负责人、安全研究员托马斯·普塔切克(Thomas Ptacek)说。网络安全公司Sysdig的首席信息安全官谢尔盖·埃普(Sergej Epp)在2月份亲身体验了一番。他已有十年没尝试过寻找漏洞但在试用Anthropic的软件时他很快就发现了一些安全问题。在两周后的一个网络安全会议上他发布了一个氛围编程网站利用公开数据展示AI工具将新漏洞转化为可用于攻击的软件的速度有多快。他仿照《原子科学家公报》(Bulletin of the Atomic Scientists)的核毁灭警报“末日时钟”(Doomsday Clock)将其命名为“零日时钟”(Zero-Day Clock)。他说每个软件都有缺陷当一个漏洞被发现时黑客与试图修补漏洞的人之间就开始了一场竞赛。这是攻击者和防御者之间一场长跑竞赛。他说八年前一个漏洞从公开披露到被利用的平均时间是847天。去年这个数字降至23天。而今年大多数漏洞在一天之内就被利用了。该网站呼吁科技行业从根本上重启构建软件的方式。埃普说“AI正在赋予黑客超能力而不是防御者。”