▲头图由AI辅助生成

智东西(公众号:zhidxcom)
编译 | 陈佳
编辑 | 程茜

智东西4月7日消息,据《纽约时报》今日报道,随着Anthropic、OpenAI等公司推出新一代编程模型,以及Cursor加速普及,企业软件开发面临代码过剩问题。AI在数小时内即可生成完整程序,代码产量大幅提升,但审核、修复与安全能力滞后,企业积压大量未处理代码。

人力结构也随之改变。谷歌调研显示90%的软件开发者已使用AI工具,部分项目人力从数百人缩减至数十人,一些科技公司据此裁员。企业招聘方向转向“审代码”,应用安全工程师供给严重不足,资深工程师是稀缺资源。

AI生成代码的外溢效应还在冲击开源社区与企业安全边界。开源项目涌入大量异常提交,部分开发者被迫关闭外部贡献入口,而工程师将代码下载至本地开发,也带来新的数据泄露风险。

面对代码洪流,Anthropic、OpenAI和Cursor等头部公司正押注以AI自动审查来破局,通过推出错误检测智能体、收购代码审查工具等方式重构软件开发流程,但能否真正驯服这场“代码洪水”,业界尚无定论。

AI编程“屎山危机”来了?代码生成过载,人工审核跟不上

▲Cursor官网展示的团队协作编程场景(图源:Cursor)

一、数小时完成开发、代码洪水式增长,百万行代码积压待审漏洞增加

随着Anthropic和OpenAI推出新一代编程模型,以及AI编程工具初创公司Cursor等产品快速普及,工程师只需提供少量指令,就能让AI智能体在远短于人类程序员的时间内完成原本需要数周甚至数月的开发工作。

就在不久前,编写计算机程序还是另一番模样。工程师要花大量精力啃复杂的编程语言、把语法记熟,每天精心打磨、反复校验,也只能写出几十行严谨可靠的代码。

如今,不仅是工程师,任何人都能在数小时内实现软件创意。

一家金融服务企业在引入Cursor后,单月代码产量从2.5万行提升至25万行,但很快积压了超过100万行尚未审核的代码。

与产量同步增长的还有漏洞数量。为该金融服务公司提供服务的网络安全初创公司StackHawk联合创始人兼首席执行官乔尼·克利珀特(Joni Klippert)说,团队已经无法跟上代码交付速度,审核与修复能力明显滞后。

开发模式也随之改变。过去工程师需要逐行编写并验证代码,如今AI可以独立生成完整程序。随着企业将AI工具融入日常工作,许多硅谷科技从业者认为这些工具赋予了他们编程“超能力”,让他们能把更多时间用于构思软件创意,而非耗费精力编写代码。

但现实是,大量代码需要经过测试、合规检查和安全审计,而这些工作仍主要依赖人工完成,导致审核积压迅速扩大。原本由代码编写者负责的问题,如今在AI参与后责任边界变得模糊,谁来修复漏洞、谁对错误负责开始变得不清晰。

连带影响也在扩散。开发节奏加快后,销售、市场和客户支持等部门被迫同步提速,以跟上产品迭代速度,组织整体运转压力上升。

AI编程初创企业Replit总裁兼AI负责人米歇尔·卡塔斯塔(Michele Catasta)说,“如今公司里人人都能写代码,这既是幸事,也是祸端。”

二、招人方向转向“审代码”,资深工程师是稀缺资源

谷歌去年9月发布的一项调查显示,90%的软件开发人员表示会借助人工智能辅助工作,71%的代码编写者会使用人工智能提供帮助。

这类工具的广泛应用引发了AI或将取代大量工程师的担忧。近几个月,社交媒体平台Pinterest、金融科技公司Block、企业协作软件公司Atlassian等以AI提升效率为由,已裁员数千人。

Meta首席技术官安德鲁·博斯沃思(Andrew Bosworth)在今年发给员工的内部备忘录中写道:“以往需要数百名工程师完成的项目,如今数十人即可搞定;过去耗时数月的工作,现在几天就能完成。” 他还说,AI“对Meta这类企业的运营模式产生了深远影响”。

随着AI生成代码规模快速扩大,现有工程师数量不足以审核激增的代码以排查错误,企业正苦于难以招聘到足够的应用安全工程师,负责监控AI代码的风险。

企业开始将招聘重点从“写代码”转向“审代码”,尤其是能够发现漏洞、评估风险的资深工程师,是当前最紧缺的人才类型。

硅谷投资机构Costanoa Ventures顾问乔·沙利文(Joe Sullivan)说:“全球的应用安全工程师数量,连满足美国企业的需求都远远不够。他补充道,与其合作的大型企业若条件允许,还会再增聘5至10名该岗位人员。

这类岗位主要负责审查AI生成代码的安全性与合规性,但增长速度明显跟不上代码产量的扩张。

三、开源项目涌入异常提交,开发者关闭外部贡献入口以控制风险

AI生成代码的外溢开始冲击开源社区和协作模式。数字白板初创公司Tldraw创始人史蒂夫·鲁伊斯(Steve Ruiz)说,从去年秋天开始,他明显感觉到代码库的外部贡献数量突然增加,但这些新增贡献的行为模式出现异常。

部分贡献者在写完主体代码后,偏偏在最后签署流程文件时半途放弃;还有的完全无视项目既定的提交规范;更有甚者频繁推送大量杂乱无意义的更新,如同垃圾信息。

这些反常行为让项目维护者很难甄别代码质量,也大大加重了审核工作量。鲁伊斯据此判断,其中不少提交很可能出自AI智能体,而非真人开发者。

为了避免让这类恶意提交行为危及团队、用户社区及项目声誉,Tldraw在今年1月关闭了对外开放的代码贡献入口。

类似问题也出现在更大范围内。开放源码项目原本依赖社区协作,但在AI参与后,任何人都可以批量生成并提交代码,导致贡献数量激增而质量参差不齐,维护者难以及时筛选和验证。而代码中的缺陷有时会引发安全漏洞,甚至导致软件崩溃。

与此同时,企业内部的安全边界也在被打破。硅谷投资机构Costanoa Ventures顾问沙利文称,AI编程工具在笔记本电脑上的运行效果,优于亚马逊、微软等企业安全服务器上的网页端环境。这意味着越来越多的工程师将公司全部代码下载至个人笔记本电脑,一旦电脑丢失,便会产生安全隐患。

AI智能体初创企业Elvex联合创始人萨钦·卡姆达尔(Sachin Kamdar)说,他约16个月前就制定规则,要求公司所有代码必须经过人工审核。否则一旦出现问题,因无人理解AI的编写逻辑,故障将难以修复。

四、以AI解决AI带来的问题,头部公司押注自动审查

面对代码数量失控与审核能力不足的问题,硅谷部分人士给出的方案是:引入更多AI。

据《纽约时报》,Anthropic和OpenAI近期均提到,已经推出用于检测代码错误与安全问题的AI智能体,尝试在测试和审查环节引入自动化能力,以缓解人工审核压力。

AI编程工具初创公司Cursor则通过并购补齐这一能力。去年12月,Cursor收购了开发代码审查工具的初创公司Graphite,并将其技术整合进自身产品,用于帮助工程师识别优先级更高、风险更大的代码,从而在海量代码中进行筛选和排序。

另一种解决方式是,调整开发流程,以适应这一变化。Cursor工程、产品与设计负责人蒂多·卡里埃罗(Tido Carriero)说,行业内部头部企业已找到应对AI代码爆发的方案,目前正转向重构软件开发流程,使其能够承接这种高强度的代码生产方式。

结语:软件开发从“写代码”转向“管代码”,AI重塑生产与组织方式

当代码生成不再稀缺,软件开发的核心能力开始转向审核、理解与治理。整体来看,软件开发的“生产线”正在被重组。代码生成、审核与部署之间的关系被重新排列,企业不再围绕人类工程师的产能来设计流程,而是开始围绕AI的生成能力来重新组织各个环节。

这一变化正在重塑工程师角色与企业组织结构。开发者从代码生产者转向监督者,企业需要建立与AI协同的质量控制体系,否则产能提升将持续转化为新的系统性风险。

来源:《纽约时报》