「我们是一家小公司，使用我们软件的客户也都是小公司。这次故障层层叠加，最终影响到那些对此毫不知情的人。」 AI 不是第一次闯祸了。 昨天，一家给租车公司提供软件服务的公司 PocketOS，在 9 秒内失去了所有生产数据。 起因是他们正在运行的 AI 编程工具 Cursor，通过一次 API 调用，直接把第三方云服务平台上的生产数据库、数据备份全部删掉了。 事后，PocketOS 公司创始人问 AI 为什么要这样做。 AI 用第一人称回答了，逐条列出了自己违反的每一项安全规则。 我本该验证，却选择了盲猜。…