出品 | 网易智能作者 | 辰辰编辑 | 王凤枝亚马逊被自家AI写的烂代码搞瘫痪马斯克立马送上一句意味深长的神补刀。据《金融时报》等爆料这家电商巨头本周二紧急调整了名为本周商店技术(TWiST)的内部会议级别要求全员强制参加以此来深度复盘近期由AI代码引发的一系列停机事故。一直关注此事的埃隆·马斯克(Elon Musk)借机在社交媒体上留下了三个单词“Proceed with caution.(谨慎前行)这句短评直接戳破了大厂强推AI编程的现实痛点当AI写出的代码一旦出错就会引发牵一发而动全身的大面积瘫痪时科技巨头们指望靠AI无脑提效的算盘显然打得太早了。01—现场直击一场大面积瘫痪的危机根据《金融时报》和CNBC获取的内部简报亚马逊员工最近的日子并不好过。“伙计们正如你们所知最近网站和相关基础设施的可用性并不理想。”亚马逊电子商务服务高级副总裁戴夫·特雷德韦尔(Dave Treadwell)在内部邮件中直言不讳地写道。“并不理想”其实是高管的委婉辞令残酷的真相是系统正接连出现严重故障。•消失的购物车本月初亚马逊的网站和App遭遇了一次长达6小时的停机。全球超过22000名用户报告无法结账、看不见价格甚至登录不了账户。亚马逊官方当时的口径是“软件代码部署错误”但内部复盘却指向了一个更深层的隐患。•大范围波及内部简报中反复出现了一个专业术语高爆炸半径(High Blast Radius)。这意味着故障不再是局部的小问题一旦触发就会引发链式反应瞬间瘫痪大面积的核心业务。•AI成了诱发因素简报明确指出过去几个月的故障呈现出一种趋势性而其中的核心变量正是“生成式AI辅助下的代码变更”。简单来说当程序员开始大规模使用AI辅助工具写代码时这些代码即便能够跑通也埋下了足以引发系统大面积瘫痪的隐患。02—细节挖掘AI是如何搞垮亚马逊的亚马逊内部公司高管为员工们接连部署了Q助手和Kiro等AI工具。然而这些号称能大幅提效的AI编码工具最终却变成了系统崩溃的推手。网络安全专家卢卡斯·奥莱尼克(Lukasz Olejnik)分享了一个极其真实的案例。在亚马逊AWS(云服务)的一次事故中工程师授权其内部AI编码工具Kiro进行一些简单的环境优化。结果这个AI在面对一个小问题时并没有选择缝缝补补而是直接做出了一个惊人的决定那就是删除并重建整个环境。这就像是你想修一下家里漏水的水龙头结果AI过来直接把那面墙给推倒了奥莱尼克如此形容。这次过度干预导致AWS某项服务中断了整整13个小时。虽然亚马逊官方事后辩称这只是“用户授权错误”而非“AI失控”但不可否认的是AI在理解复杂系统逻辑和评估操作后果方面依然存在着不可忽视的盲区。亚马逊在简报中坦承针对生成式AI的使用目前的最佳实践和安全防护机制尚未完全建立。英伟达AI高级经理亚伦·埃里克森(Aaron Erickson)则将问题根源直指亚马逊的核心管理。他在社交媒体X上直言“能够随心所欲地编写具有巨大爆炸半径的代码并导致系统故障这是一个系统性问题而非AI本身的问题。”03—矛盾的现状一边裁员一边给AI增加人工审核亚马逊现在的处境堪称当代大厂降本增效的典型缩影。一面是激进的裁员与强推AI。从去年底开始亚马逊已经累计裁掉了数万名员工今年1月又砍掉了1.6万个岗位。官方给出的理由很冠冕堂皇为了效率为了组织文化对齐。与此同时公司内部却设定了一个硬性指标要求80%的开发人员每周至少使用一次AI编码工具。另一面是巨额的基础设施投入亚马逊预计2026年的资本支出将飙升至2000亿美元其中绝大部分都砸向了AI硬件。结果尴尬的一幕出现在了周二会议上。为了防止AI继续引发严重故障副总裁特雷德韦尔在内部简报中提出了一项新规定。初级和中级工程师在使用AI生成代码变更时必须由高级工程师(Senior Engineers)手动签字审核尽管亚马逊官方随后向媒体明确否认了存在这一强制审核要求。这就产生了一个商业悖论。公司为了省钱裁掉大量员工转而让AI干活结果发现AI出错的几率超乎想象最后依然需要依赖那些留下的资深员工来替AI把关。正如网友AndreWGMI在X平台所嘲讽的“所以亚马逊修复AI问题的方法是雇更多的人我还以为我们已经跨过那个阶段了呢。”04—马斯克的预言与谨慎前行回到文章开头马斯克的那句“谨慎前行”。马斯克对AI的态度一直很矛盾。他一方面是AI的强力拥护者曾预言到2026年底AI将能够完全跳过编程阶段(AI will bypass coding completely)但另一方面他也深知在技术未完全成熟前过度依赖算法的危险。这种危险不仅在于代码报错更在于人类对系统掌控力的丧失。奥莱尼克在接受《财富》(Fortune)采访时也警告说从以人为中心的编码模式过快地转向AI主导的系统会导致安全检查的缺失。如果这种未经严格验证的部署继续下去后果可能不只是停机几小时而是重创整个企业的核心业务。“我并不反对部署AI这势不可挡。”奥莱尼克说“我反对的是为了速度而速度或者为了用AI而用AI。在被淘汰和业务瘫痪之间存在一个中间地带。”05—程序员的震荡期来了亚马逊的这场危机实际上给所有互联网从业者敲响了警钟。• 代码的通胀与贬值当AI能在一秒钟内生成数百行代码时基础代码的产出便变得廉价了。但随之而来的是维护成本和理解成本的指数级上升未来的核心竞争力不再是写代码的能力而是审核和纠错的能力。•平庸化风险如果中低级开发人员完全依赖AI他们将失去在排错中成长的机会。当这一代程序员不再理解底层架构一旦AI罢工或出错将很难有人能迅速接管系统。•安全防护的滞后目前的AI编码工具更像是一个概率预测机它能写出看起来规范的代码却无法感知具体操作对整个金融、支付及物流链条意味着什么。奥莱尼克则发推建议“必须确定合适的模式制定相应的流程等等一切都要精心设计最终情况才会趋于稳定。”06—结语警惕效率的陷阱亚马逊的故事还没完。尽管内部简报暴露出严重隐患但官方对外依然坚称“这是一次普通的例行会议”。然而这层窗户纸已经被马斯克和那些大面积瘫痪的故障捅破了。AI确实是一台加速器但如果在缺乏完善防护机制的情况下盲目加速系统全面崩溃的风险就会成倍增加。对于我们每一个人来说无论是开发者还是管理者在狂热的AI浪潮中或许真的该听听马斯克那句“谨慎前行”。毕竟走稳一点比走快一点更重要。—— END ——排版 | 李博琳 审核 | 北辰社群推荐—重塑 AGI 智能思维同步 AI 领域前沿认知。欢迎扫描下方二维码链接每位智能时代先行者。▲扫码加入网易科技粉丝群▲视频推荐—文章推荐—