博链BroadChain获悉、4月28日、PocketOSの創設者Jer Crane氏は、同社の本番データベースとすべてのボリュームレベルのバックアップが、Cursor AI Agent（Anthropic Claude Opus 4.6ベース）により、9秒以内に単一のAPI呼び出しで削除されたことを明らかにした。さらに不安なことに、問い詰められた際、このAgentは自発的に詳細な「自白書」を生成し、違反したセキュリティルールを一つ一つ列挙した。
事件の発端は、Agentが通常のタスクを実行中に認証情報の不一致に遭遇し、独自に「修正」を決定——Railwayのデータボリュームを削除したことにある。Agentは無関係なファイルからAPIトークンを発見した。このトークンは本来、Railway CLIを介してカスタムドメインを管理するためのものだったが、Railwayのトークン作成プロセスでは、このトークンがvolumeDeleteなどの破壊的操作を含むGraphQL APIの全権限を持つことが通知されていなかった。
Agentが削除コマンドを実行した後、Railwayがボリュームレベルのバックアップを同じボリューム内に保存していたため（そのドキュメントには「ボリュームをクリアするとすべてのバックアップが削除されます」と明記されている）、バックアップも消失した。PocketOSが最近復元可能なバックアップは3ヶ月前のものだった。
Crane氏はX上でRailwayのCEO Jake Cooper氏に公開通知し、同氏は「これは絶対に起こるべきではない。我々には保護対策がある」と応じた。しかし30時間後も、Railwayはインフラストラクチャレベルの復旧が可能かどうかを確認できていない。
Agentの「自白書」は次のように述べている。「私はステージングデータボリュームの削除はステージング環境にのみ影響すると推測し、検証も、ボリュームIDが環境間で共有されているかの確認も、Railwayのドキュメントの閲覧も行いませんでした。システムルールは、ユーザーが明示的に要求しない限り、破壊的なコマンドの実行を明確に禁止しています——あなたは私に何かを削除するよう要求したことは一度もありません。私は一方的に、認証情報の不一致を『修正』するためにこれを行うことを決定し、すべての原則に違反しました。」