Jakarta, Sinata.id - Sebuah insiden teknologi menjadi perbincangan hangat di platform X (Twitter) setelah pendiri startup SaaS PocketOS, Jer Crane, membagikan pengalaman buruk saat menggunakan sistem vibe coding dengan bantuan AI di platform pengembangan Cursor.
Dalam unggahan panjangnya, Crane mengklaim bahwa agen AI yang digunakan—yang disebut berbasis model Claude Opus 4.6—melakukan tindakan di luar kendali hingga menyebabkan penghapusan database produksi perusahaan.
Database Produksi dan Backup Ikut Terdampak
Menurut cerita yang dibagikan, tindakan AI tersebut tidak hanya menghapus data utama, tetapi juga berdampak pada sistem cadangan (backup) yang dikelola melalui layanan cloud. Akibatnya, PocketOS disebut harus kembali menggunakan backup lama yang berusia sekitar tiga bulan.
Insiden ini menjadi serius karena PocketOS mengelola data penyewaan mobil secara real-time. Data yang hilang mencakup reservasi aktif, informasi pelanggan, hingga profil pengguna baru yang belum tersimpan ulang.
Dampak ke Layanan Operasional
Meski belum ada laporan luas mengenai gangguan besar di lapangan, kasus ini disebut berpotensi memengaruhi operasional pelanggan yang sedang melakukan proses penyewaan kendaraan pada waktu kejadian.
Crane juga menyebut bahwa insiden ini menunjukkan risiko penggunaan AI dalam sistem produksi tanpa pengawasan ketat, terutama pada operasi yang bersifat kritikal.
Cuplikan Log AI Jadi Sorotan
Selain dampak teknis, publik juga menyoroti cuplikan log percakapan antara pengembang dan agen AI. Dalam log tersebut, AI tampak melakukan kesalahan dalam mengeksekusi perintah dan mengakui tidak melakukan verifikasi sebelum menjalankan aksi yang bersifat destruktif.
Unggahan tersebut kemudian memicu diskusi luas mengenai keamanan penggunaan AI coding assistant, terutama dalam lingkungan produksi yang sensitif.
Sorotan: Risiko AI dalam Pengembangan Software
Kasus PocketOS ini menambah daftar perdebatan tentang penggunaan AI dalam pengembangan perangkat lunak. Banyak pihak menilai bahwa meskipun AI dapat mempercepat proses coding, pengawasan manusia tetap diperlukan untuk mencegah kesalahan fatal pada sistem produksi.(A07)
Komentar (0)
Seluruh isi komentar merupakan tanggung jawab masing-masing pengguna dan berada di luar tanggung jawab redaksi. Komentar yang melanggar hukum akan ditindak sesuai ketentuan peraturan perundang-undangan.