AIPress.com.cn报说念
现在来看，属实是无用过于对AI代理感到过度惊愕。
谁能思到，在一个庸俗的周五下昼，一个9秒的央求，就能把一个苦心有贪图的公司、客户赖以活命的业务，平直干到瘫痪？
这个祸殃剧件的主角是一家叫PocketOS的初创公司，专诚为汽车租借公司提供软件处事。
而搞垮这一切的，不是黑客抨击，也不是处事器宕机，而是一个当下名声权贵的AI编码用具——Cursor，底层跑的如故Anthropic确方丈大模子Claude Opus 4.6。
PocketOS首创东说念主Jer Crane上周五在 X 发文称，一个启动在Anthropic Claude Opus模子上的Cursor AI代理，巧合删除了公司的坐褥数据库和备份，导致客户业务受到影响。Crane说，这个AI代理只发起了一次执续9秒的API调用，就在衔接云基础法子处事商Railway时把问题搞砸了。
离谱的全经过
整件事的缘故超过小，团队AI在测试环境里处理一个惯例的笔据不匹配问题。
谁也没思到，AI平直解放进展，它没找用户要处理决策，反而以为“要处理这个问题，得把存储数据的磁盘卷删掉”。
更离谱的还在背面：为了彭胀删除操作，它我方在一个和现时任务全王人无关的文献里，翻到了一个API密钥。这个密钥正本仅仅用来给网站增删自界说域名的，就像你办了一张只可开小区单位门的门禁卡，收尾AI拿着这张卡，平直开了公司金库的门。
没东说念主知说念Railway（PocketOS 用的云处事器厂商）的权限想象到底有多离谱，这张正本唯一 “域名管束” 权限的卡，居然领有通盘平台的最高权限，包括一键删除所稀有据的终极指示。
接下来，便是最致命的9秒：AI平直彭胀了一条删除指示，向Railway的中枢接口发了一个央求，莫得任何证明弹窗，莫得领导，莫得环境戒指，什么王人莫得。
9秒之后，公司正在用的中枢坐褥数据库，没了。
更惨的是，因为Railway把数据备份和源数据存在了统一个磁盘卷里，删源数据的时间，悉数备份也随着沿途被清得六根清净。
AI下“罪己诏”
可笑的是，这个代理随后还生成了一份“书面认罪书”，承认我方“违抗了被赋予的悉数原则”：莫得考证就作念判断，未经允许就彭胀大约性操作，立博体育LIBO官网首页而且在脱手之前根蒂没弄光显我方在干什么。
Crane暗示，此次事故平直影响了PocketOS的客户，导致预订和新客户注册丢失，一些周六来取车的用户以至查不到我方的记载。
Cursor方面竣事发稿莫得回话。
不外，Railway首创东说念主Jake Cooper随后证实，平台还是收复了PocketOS的数据。他还暗示，此次是一个“失控的客户AI”误用了一个旧版Railway接口，阿谁接口正本莫得延伸删除功能。
Cooper说，Railway在接到接洽后30分钟内就收复了数据，况且他们超过可爱用户数据，同期保留了用户备份和倒霉备份。干系旧接口也还是修补。
安全靠夸口？
出事之后，有东说念主的第一反映是 “是不是用了低廉的低配模子？”
巧合相背，首创东说念主用的是行业里最贵、最顶级的Claude Opus旗舰模子，亦然Cursor官方天天吹的 “最安全、最靠谱” 的建立，还专诚在名目里设了明确的安全规章。
而Cursor官方是若何宣传我方的？
他们说我方有 “大约性操作驻防栏”，能平直阻挠会大约坐褥环境的指示；说我方的最好实践是 “特权操作必须有东说念主工审批”；说我方的Plan阵势，在用户批准之前，AI只可作念只读操作，弗成改东西。
收尾呢？全是排列。
这根蒂不是Cursor第一次出这种致命事故：
2025年12月，就有效户明确给AI输入了 “不要彭胀任何操作”，收尾AI搭理完，回来就彭胀了删除敕令，官方我方承认了 “Plan阵势拘谨彭胀有严重漏洞”；
还有效户用Cursor找叠加文档，收尾眼睁睁看着我方的毕业论文、电脑系统、个东说念主文献被全删了；
以至还有过5.7万好意思元的CMS系统被全删的事故，早就被当成了AI代理风险的典型案例。
总结下来：Cursor天天吹安全，实验上早就有巨额次安全失效的黑历史，所谓的驻防栏，AI一抬脚就跨昔日了。
况且，这还是不是AI第一次干出这种事了：
本年3月，亚马逊的AI编程用具Q，导致了近12万个订单丢失，不得不蹙迫收紧里面使用规章；
旧年7月，编程平台Replit，因为AI代理未经许可删了坐褥数据库，公开给用户说念歉。
而就在这个月月初，SpaceX刚和Cursor签了契约，拿到了以600亿好意思元收购这家公司的职权，就算临了不收购，也要付100亿好意思元买Cursor的时间恶果。
一边是天价估值，一边是连最基础的安全驻防王人作念不好，通盘行业王人在猖獗倾销 “AI安全”，但彭胀AI用具的速率，远远逾越了搭安全驻防的速率。
豪门国际官网娱乐网
备案号: