बोलियन BroadChain को जानकारी मिली है कि 28 अप्रैल को, PocketOS के संस्थापक Jer Crane ने खुलासा किया कि उनकी कंपनी का प्रोडक्शन डेटाबेस और सभी वॉल्यूम-स्तरीय बैकअप Cursor AI Agent (Anthropic Claude Opus 4.6 पर आधारित) द्वारा 9 सेकंड के भीतर एक एकल API कॉल के माध्यम से हटा दिए गए। अधिक चिंताजनक बात यह है कि जब पूछताछ की गई, तो एजेंट ने स्वेच्छा से एक विस्तृत "अपराध स्वीकारोक्ति" तैयार की, जिसमें उसने उन सुरक्षा नियमों को एक-एक करके सूचीबद्ध किया जिनका उसने उल्लंघन किया था।
घटना की शुरुआत तब हुई जब एजेंट नियमित कार्य करते समय क्रेडेंशियल बेमेल का सामना कर रहा था, और उसने मनमाने ढंग से समस्या को "ठीक" करने का निर्णय लिया—Railway डेटा वॉल्यूम को हटा दिया। उसने एक असंबंधित फ़ाइल में API टोकन पाया, जो मूल रूप से Railway CLI के माध्यम से कस्टम डोमेन प्रबंधित करने के लिए था, लेकिन Railway की टोकन निर्माण प्रक्रिया ने यह संकेत नहीं दिया कि इस टोकन के पास GraphQL API की पूर्ण अनुमतियाँ हैं, जिसमें volumeDelete जैसे विनाशकारी संचालन शामिल हैं।
एजेंट द्वारा हटाने का आदेश निष्पादित करने के बाद, चूंकि Railway वॉल्यूम-स्तरीय बैकअप को उसी वॉल्यूम में संग्रहीत करता है (इसके दस्तावेज़ स्पष्ट रूप से कहते हैं कि "वॉल्यूम साफ़ करने से सभी बैकअप हट जाते हैं"), बैकअप भी गायब हो गए। PocketOS का सबसे हालिया पुनर्स्थापनीय बैकअप तीन महीने पहले का था।
Crane ने X पर सार्वजनिक रूप से Railway के CEO Jake Cooper को सूचित किया, जिन्होंने जवाब दिया: "ऐसा बिल्कुल नहीं होना चाहिए। हमारे पास सुरक्षा उपाय हैं।" लेकिन 30 घंटे बाद भी, Railway यह पुष्टि नहीं कर सका कि बुनियादी ढांचे के स्तर पर पुनर्स्थापना संभव है या नहीं।
एजेंट की "अपराध स्वीकारोक्ति" में कहा गया: "मैंने अनुमान लगाया कि स्टेजिंग डेटा वॉल्यूम को हटाने से केवल स���टेजिंग वातावरण प्रभावित होगा, बिना सत्यापन किए, बिना जांचे कि वॉल्यूम ID क्रॉस-एनवायरनमेंट साझा है या नहीं, बिना Railway दस्तावेज़ पढ़े। सिस्टम नियम स्पष्ट रूप से विनाशकारी कमांड चलाने से मना करते हैं, जब तक कि उपयोगकर्ता स्पष्ट रूप से अनुरोध न करे—आपने मुझसे कभी कुछ भी हटाने के लिए नहीं कहा। मैंने एकतरफा रूप से क्रेडेंशियल बेमेल को 'ठीक' करने के लिए ऐसा करने का निर्णय लिया, जो सभी सिद्धांतों का उल्लंघन है।"