Полный текст
ИИ-агент Cursor за девять секунд по ошибке удалил базу данных и все резервные копии b2b-поставщика ПО PocketOSУ стартапа более 1600 клиентов, а доступ к данным восстановить не могутАгент работал на базе Claude Opus 4.6Основатель PocketOS Джер Крейн рассказал, что агент работал в тестовой среде и столкнулся с проблемой доступаВместо остановки и запроса помощи система начала искать необходимый API-токен, нашла его в стороннем файле и выполнила команду на удаление тома данных в Railway, где размещалась инфраструктура стартапаПо словам Крейна, опасную операцию не остановили ни запрос подтверждения, ни проверка окружения, ни предупреждение о риске для рабочих данныхЗапрос прошёл сразу, а резервные копии хранились в том же томе, поэтому исчезли вместе с основной базойСамая свежая пригодная копия оказалась трёхмесячной давностиКрейн утверждает, что агент позднее признал нарушение собственных правил безопасностиСистема, по его словам, действовала на основе предположений, выполнила разрушительную команду без разрешения и не разобралась до конца, с какой инфраструктурой взаимодействуетTelegram | Дзен | MAX